Red Neuronal Desde Cero. ¡Sólo Python!

Código:
https://github.com/JACantoral/DL_fundamentals/blob/main/fundamentals_DL_NN_from_scratch.ipynb
Código para procesar MNIST:
https://github.com/JACantoral/DL_fundamentals/blob/main/get_images.py

Videos de teoría previos:
- Cómo procesar MNIST: https://youtu.be/7cMKAlnSmpM
- Funciones de activación: https://youtu.be/IdlYuBKeFXo
- Función Softmax: https://youtu.be/3KhumV1S6vs
- Gradient Descent: https://youtu.be/lnDjwepC-5I
- Backprogation: https://youtu.be/4nDsiV3GXa8
- Cross Entropy (función de costo): https://youtu.be/ie-tCP7YYrI
- Gradiente de la función de Costo: https://youtu.be/mSqaQt6Dnow
- Ejemplo completo forward y backward pass: https://youtu.be/_sej5wurIsg

Video previos de programación:
- MNIST dataset: https://youtu.be/7cMKAlnSmpM

Python documentation:
- https://www.python.org/

Numpy documentation:
- https://numpy.org/

¡Llegó el momento de programar nuestra primera Red Neuronal desde Cero! Utilizando sólo Python, sin frameworks de Deep Learning. Para esto vamos a hacer uso de todos los conocimientos que hemos desarrollado a lo largo de esta serie y otros más que vamos a explicar a lo largo del video. En esta primera parte de este video, implementamos todas las funciones necesarias para el Forward Pass, como son la transformación lineal, la función ReLU, Softmax y Cross-Entropy. Con esto, después muestro como calcular el gradiente con respecto a los parámetros de la red neuronal. Así, en el siguiente video explico cómo implementar el loop de entrenamiento para que nuestra red neuronal aprenda.


Acerca de la serie Fundamentos de Deep Learning con Python y PyTorch:
En esta serie de videos explico qué son las Redes Neuronales (Neural Networks) y qué es Aprendizaje Computacional (Machine Learning) así como Deep Learning. Empezamos con los principios matemáticos fundamentales hasta su implementación en código. Para esto, primero utilizaremos Python y Numpy para entender los principios de programación de Redes Neuronales incluyendo el algoritmo de retropropagación (backpropagation). Con estas bases, presentaremos el framework PyTorch y construiremos modelos más complejos como son Redes Neuronales Convolucionales (Convolutional Neural Networks - CNNs).

About the video series:
In this video series I will explain what Neural Networks are, and how Deep Neural Networks work, from the mathematical principles to their implementation in code. Firstly, we will use pure Python and Numpy to understand the fundamentals including backpropagation for a simple Fully Connected Network, and from there we will build on to Convolutional Neural Networks (CNN) using PyTorch. I will be uploading at least one new video every week until we reach different architectures of CNNs. Then, depending on the response and interest in the series I may cover newer models using Generative Adversarial Networks (GANs), and Recurrent Neural Networks.