Mecanismos de Atención: Queries, Keys y Values | Clase 17 | Curso Aprendizaje Profundo 2021
Ya has superado la mitad. Estás muy cerca de completar el curso.
Sobre esta lección
En la clase de hoy vamos a hablar sobre los mecanismos de atención. Una técnica muy poderosa que les permite a nuestras redes concentrarse sólo en ciertas partes de la frase que tengan mayor información para poder predecir la siguiente palabra. Estos mecanismos son los que han permitido el boom del NLP en los últimos 3 años así como ImageNet lo hizo con la Visión por Computadora. Esta clase es parte de un curso gratuito dictado en la Ciudad de Mendoza, Argentina en Otoño de 2021. Podés encontrar todo el material en https://datitos.github.io/curso-aprendizaje-profundo. 0:00 Introducción al Concepto de Atención 3:17 Limitaciones de RNN en Procesamiento del Lenguaje 18:24 Atención como un Diccionario 20:18 Keys, Values y Queries 22:16 Mecanismo de Atención 29:14 Tipos de Atención 35:36 Seq2Seq con Atención 38:32 Verificación Gráfica de la Atención
Sobre este curso
https://datitos.github.io/curso-aprendizaje-profundo En los últimos cinco años el aprendizaje profundo ha tomado al mundo por sorpresa, impulsando un rápido progreso en campos tan diversos como la visión por computadora, el procesamiento del lenguaje natural, el reconocimiento automático del habla, el aprendizaje por refuerzos y el modelado estadístico. Hemos elegido basar el curso en el libro Dive into Deep Learning, consideramos que ofrece un enfoque práctico, amplio y moderno, incluye matemáticas y código, y sus contenidos son actuales. Este curso representa nuestro intento de hacer que el aprendizaje profundo sea accesible, enseñándote los conceptos, el contexto y el código. Nos propusimos crear un recurso que simultáneamente pudiera: * estar disponible gratuitamente para todes; * ofrecer suficiente profundidad técnica para * proporcionar un punto de partida en el camino de convertirte en unx científicx de datos; * incluir código ejecutable, que muestre cómo resolver problemas en la práctica. El curso está dirigido a estudiantes de grado o posgrado, ingenierxs e investigadores que busquen un conocimiento sólido del aprendizaje profundo.
Lo que aprenderás en este curso:
- Comprender los fundamentos del aprendizaje automático
- Implementar algoritmos de clasificación y regresión
- Preparar y limpiar datos para modelos predictivos
- Evaluar y optimizar modelos de machine learning