Hackaton Aprendizaje de Maquinas 2017: Se puede predecir el grado de peligrosidad de una arbol dado sus caracteristicas?

knitr::opts_chunk$set(include = FALSE)
library(caret)

HACKATON AM 2017

Descripcion

El siguiente desafío surge como propuesta dentro de la Cátedra de Aprendizaje de Maquinas(AM) de la Universidad Tecnológica Nacional Facultad Regional Mendoza, el laboratorio DHARMA y el ITIC de la Universidad Nacional de Cuyo.

La actividad esta fundamentalmente orientada a los estudiantes de la materia optativa, sin embargo se invita a participar a todo aquel interesado.

¿Se puede predecir el grado de peligrosidad de una árbol dado sus características?

La Secretaría de Ambiente y Desarrollo Sustentable de la Ciudad de Mendoza Argentina, destaca a la cultura del árbol tanto como patrimonio cultural y como un aliado indispensable del progreso y el desarrollo de la vida en la provincia de Mendoza. Sin embargo, todos sabemos del peligro que suponen los arboles durante las temporadas de fuertes tormentas y sobre todo la época de viento Zonda. El grado de inclinación de un árbol es un factor fundamental a tener en cuenta a la hora de prevenir los posibles accidentes ocasionados por los fenomenos meteorologicos severos a los que muchas veces esta sujeta la provincia de Mendoza.

El objetivo detras del presente desafio es el de predecir aquellos especimenes que tengan un grado de inclinación peligroso (i.e. mayor a 30 grados) a partir de sus caracteristcas biologicas e información geografica/administrativa. Para tal fin se cuenta con un conjunto de datos que contiene el censo georeferenciado del arbolado publico en la ciudad de Mendoza al año 2012.

Habilidades:

Se espera que durante el desarrollo de esta actividad el participante aprenda a:

1. Lidiar con conjuntos de datos reales

2. Trabajar sobre conjuntos de datos con clases no balanceadas
   • Aprender o reforzar nuevas metricas para evaluar los resultados obtenidos
   • Aprender tecnicas de muestreo

3. Experimentar con el ajuste fino de algoritmos de aprendizaje

4. Proponer nuevas tecnicas/estrategias para mejorar los algoritmos

5. Trabajar en Equipo

Conjunto de Datos

Los datos fueron generados a partir del Censo digital georeferenciado del arbolado público de la Ciudad de Mendoza, realizado en el año 2012. Mediante el mismo se permitió registrar de cada forestal una serie de datos que permiten definir su ubicación de un modo más preciso, actualizar la información en forma permanente y, sobre todo, planificar acciones futuras. El archivo original forma parte del del programa de Datos Abierto de la Ciudad de Mendoza

Del archivo original se eliminaron los registros sin información y se agrego información relativa a los limites administrativos de la ciudad de Mendoza. Por ultimo se crea la clase inclinacion_peligrosa donde se indica si la inclinacion del arbol se encuentra bajo una situación de gravedad (o no).

Descripción de los Archivos

• arbolado-mza-dataset.csv - conjunto de datos para entrenamiento
• arbolado-mza-dataset-test.csv - conjunto de datos para evaluacion
• arbolado-mza-dataset-envio-ejemplo-rpart.csv - Ejemplo del formato para realizar envios usando arboles de decision rpart
• arbolado-mza-dataset-descripcion.csv - Información extra sobre los datos.

Campos

• id - (integer) - Identificacion
• especie- (integer) - Especie del Forestal (arbol)
• ultima_modificacion - (character) - Fecha de la ultima modificacion del registro
• altura - (integer) - Altura del Forestal
• circ_tronco_cm - (double) - Circunferencia del Tronco del Forestal
• diametro_tronco - (character) - Diametro del Tronco del Forestal
• long - (double) - Longitud (Posicion Geografica)
• lat (double) - Latitud (Posicion Geografica)
• seccion - (integer) - Numero de Seccion Administrativa a la que pertenece el Forestal
• nombre_seccion - (character) - Nombre de la Seccion Administrativa
• area_seccion - (double) - Area de la Seccion Administrativa, en Km2
• inclinacion_peligrosa - (integer) - Clase: Inclinación grave

Evaluacion

Dado el alto nivel de desbalanceo de las clases, ara esta competencia vamos a usar la metrica ** ROC (Area Under de Curve)**.

(De Wikipedia)

Para dibujar una curva ROC sólo son necesarias las razones de Verdaderos Positivos (VPR) y de falsos positivos (FPR). La VPR mide hasta qué punto un clasificador es capaz de detectar o clasificar los casos positivos correctamente, de entre todos los casos positivos disponibles durante la prueba. La FPR define cuántos resultados positivos son incorrectos de entre todos los casos negativos disponibles durante la prueba.

Un espacio ROC se define por FPR y VPR como ejes x e y respectivamente, y representa los intercambios entre verdaderos positivos (en principio, beneficios) y falsos positivos (en principio, costes). Dado que VPR es equivalente a sensibilidad y FPR es igual a 1-especificidad, el gráfico ROC también es conocido como la representación de sensibilidad frente a (1-especificidad). Cada resultado de predicción o instancia de la matriz de confusión representa un punto en el espacio ROC.

El mejor método posible de predicción se situaría en un punto en la esquina superior izquierda, o coordenada (0,1) del espacio ROC, representando un 100% de sensibilidad (ningún falso negativo) y un 100% también de especificidad (ningún falso positivo). A este punto (0,1) también se le llama una clasificación perfecta. Por el contrario, una clasificación totalmente aleatoria (o adivinación aleatoria) daría un punto a lo largo de la línea diagonal, que se llama también línea de no-discriminación, desde el extremo inferior izquierdo hasta la esquina superior derecha (independientemente de los tipos de base positivas y negativas). Un ejemplo típico de adivinación aleatoria sería decidir a partir de los resultados de lanzar una moneda al aire, a medida que el tamaño de la muestra aumenta, el punto de un clasificador aleatorio de ROC se desplazará hacia la posición (0.5, 0.5).

La diagonal divide el espacio ROC. Los puntos por encima de la diagonal representan los buenos resultados de clasificación (mejor que el azar), puntos por debajo de la línea de los resultados pobres (peor que al azar). Nótese que la salida de un predictor consistentemente pobre simplemente podría ser invertida para obtener un buen predictor.

Se recurre a las curvas ROC, ya que es una medida global e independiente del punto de corte. La elección se realiza mediante la comparación del área bajo la curva (AUC) de ambas pruebas. Esta área posee un valor comprendido entre 0,5 y 1, donde 1 representa un valor diagnóstico perfecto y 0,5 es una prueba sin capacidad discriminatoria diagnóstica. Es decir, si AUC para una prueba diagnóstica es 0,8 significa que existe un 80% de probabilidad de que el diagnóstico realizado a un enfermo sea más correcto que el de una persona sana escogida al azar. Por esto, siempre se elige la prueba diagnóstica que presente un mayor área bajo la curva.

Formato para el envio de soluciones

Por cada Forestal/árbol en el conjunto de datos de evaluación, los archivos debe contener dos columnas, ID y inclinación_peligrosa.

El archivo debe contener una cabecera en el siguiente formato:

ID,inclinacion_peligrosa
1,si
12,no
13,no
122,si
1356,no
etc.

Material Extra

Videos:

¿Que es la Ciencia de Datos? Duración (15min)

Video que explica las herramientas y las tecnicas utilizadas en lo que se conoce como Ciencias de Datos

¿Cual es la Metodología de la Ciencia de Datos ? Duración (10min)

Video que detalla la metodología a seguir para aplicar las diferentes herramientas de la llamada Ciencia de Datos

Informacion sobre KAGGLE

Como funciona Kaggle? (5 Mins)

Que es Kaggle, para que sirve y por que lo vamos a usar para gestionar este desafio

Explorando el sitio del desafio en Kaggle (5 Mins)

Como acceder al sitio con el desafio y que vamos a encontar en el.

Hacer un envio al sitio del desafio Duracion (1.5 Mins)

Como hacer un envio con las predicciones de nuestro modelo. La tabla de resultados.

Agradecimientos

Gracias al programa Open Data de la Ciudad de Mendoza, Argentina