1- Big Data: Bases de datos más grandes, mayor capacidad de almacenamiento.

2- Hardware: GPUs, procesamiento en paralelo.

3- Software: Mejoras en técnicas, nuevos modelos, Toolboxes.

Las neuronas son simples procesadores de información, consisten en un cuerpo celular y cables que los conectan entre si.

Partes de una neurona:

• Cuerpo celular (A)
• Dendritas (B)
• Axón (C)
• Sinapsis (D)

Una neurona artificial al igual que una biológica tiene múltiples entradas \(x_i\) y una salida \(y\). Esta salida la calcula realizando un par de operaciones

Una vez que la neurona calcula la suma ponderada de las entradas, la neurona realiza una operación más. Toma el resultado de esta suma a través de una función para producir una salida. En la siguiente imagen se observan algunas de las más comunes:

• Es un modelo simplificado de una neurona biológica.
• Es la red neuronal de alimentación directa más simple.
• Utiliza la función Heaviside como la función de activación.
• También conocido como perceptrón de capa única o perceptrón simple, para distinguirlo de un perceptrón multicapa.
• Es un clasificador lineal binario.

\[ f(x) = \left\{ \begin{array}{rcl} 0 & \mbox{para} & x < 0 \\ 1 & \mbox{para} & x \geq 0 \end{array}\right. \]

Una red neuronal, tanto la biológica como la artificial, consiste en un largo número de unidades simples llamadas neuronas, que reciben y transmiten señales unas con otras.

Capas

A menudo las arquitecturas de redes neuronales están compuestas por capas de neuronas que se comunican entre sí, principalmente las podemos dividir en:

• Capa de entrada
• Capas ocultas
• Capa de salida

• Es una red neuronal artificial (RNA) formada por al menos tres capas de nodos: una capa de entrada, una capa oculta y una capa de salida.
• Tiene capacidad para resolver problemas que no son linealmente separables, lo cual es la principal limitación del perceptrón simple.
• Esta red se ha convertido en una de las arquitecturas más utilizadas en la actualidad.

• La propagación hacia atrás (Backpropagation), es un algoritmo utilizado en el entrenamiento de estas redes.
• El aprendizaje se produce en el perceptrón al cambiar los pesos de conexión después de que se procesa un conjunto datos, los pesos cambian en función de la cantidad de error en la salida en comparación con el resultado esperado. Este es un ejemplo de aprendizaje supervisado y se lleva a cabo mediante propagación hacia atrás.

Su propiedad claves es que pueden detectar características en una imagen, como puntos brillantes u oscuros, bordes en varias orientaciones, patrones, etc. Se pueden agrupar varias capas convolucionales para detectar características más abstractas como orejas de gatos, el hocico de un perro o el ojo de una persona. Las CNN’s pueden reconocer objetos en cualquier lugar de la imagen sin importar si han aparecido o no en los datos de entrenamiento.

Son un tipo especial de arquitectura de red, consiste en dos redes, una encargada de generar nuevo contenido y la otra de juzgarlo. Esto crea una especie de competencia donde el discriminador se vuelve mejor al distinguir entre datos reales y falsos, mientras el generador aprende a ser menos predecible para el discriminador.

• Ejemplo interactivo: Clasificación de imágenes con una Red Neuronal Convolucional (CNN).

• Deep playground: Visualización interactiva de Redes Neuronales.

• Curso en línea sobre Machine Learning: https://course.elementsofai.com/5
• Clasificación de Redes Neuronales: https://www.asimovinstitute.org/neural-network-zoo/
• Libro de Redes Neuronales y Deep Learning: http://neuralnetworksanddeeplearning.com/chap1.html
• Visualización de Redes neuronales: https://distill.pub/2020/grand-tour/
• CIFAR10 dataset: https://www.cs.toronto.edu/~kriz/cifar.html