Algoritmos de Optimización: Mejoras al Descenso por Gradiente | Clase 7 | Aprendizaje Profundo 2021
Sigue así. Cada lección te acerca más a tu certificado.
Sobre esta lección
En la clase de hoy vamos a enumerar las diferentes mejoras al Descenso por Gradiente que se implementan en los algoritmos de optimización más usados en la actualidad como Momentum y Adam. Esta clase es parte de un curso gratuito dictado en la Ciudad de Mendoza, Argentina en Otoño de 2021. Podés encontrar todo el material en https://datitos.github.io/curso-aprendizaje-profundo/2021/ 0:00 Repaso del Descenso por Gradiente 9:34 Convexidad 13:02 Funciones Convexas 30:50 Cálculo del Hessiano 32:05 Planificación de Tasas de Aprendizaje 37:27 Momentum 41:25 Limitaciones de Momentum 44:32 Adagrad 47:22 Limitaciones de Adagrad 48:15 RMSProp 50:05 Adadelta 52:05 Adam 55:00 Comparación gráfica de los algoritmos
Sobre este curso
https://datitos.github.io/curso-aprendizaje-profundo En los últimos cinco años el aprendizaje profundo ha tomado al mundo por sorpresa, impulsando un rápido progreso en campos tan diversos como la visión por computadora, el procesamiento del lenguaje natural, el reconocimiento automático del habla, el aprendizaje por refuerzos y el modelado estadístico. Hemos elegido basar el curso en el libro Dive into Deep Learning, consideramos que ofrece un enfoque práctico, amplio y moderno, incluye matemáticas y código, y sus contenidos son actuales. Este curso representa nuestro intento de hacer que el aprendizaje profundo sea accesible, enseñándote los conceptos, el contexto y el código. Nos propusimos crear un recurso que simultáneamente pudiera: * estar disponible gratuitamente para todes; * ofrecer suficiente profundidad técnica para * proporcionar un punto de partida en el camino de convertirte en unx científicx de datos; * incluir código ejecutable, que muestre cómo resolver problemas en la práctica. El curso está dirigido a estudiantes de grado o posgrado, ingenierxs e investigadores que busquen un conocimiento sólido del aprendizaje profundo.
Lo que aprenderás en este curso:
- Comprender los fundamentos del aprendizaje automático
- Implementar algoritmos de clasificación y regresión
- Preparar y limpiar datos para modelos predictivos
- Evaluar y optimizar modelos de machine learning