Embeddings: Word2Vec, GloVe y fastText | Clase 15 | Curso Aprendizaje Profundo 2021
Ya has superado la mitad. Estás muy cerca de completar el curso.
Sobre esta lección
En la clase de hoy vamos a hablar sobre los embeddings, un concepto que permite codificar información semántica de las palabras en los tokens que las representan. De esta manera, los tokens de palabras cercanas en significado también se encuentren cerca a nivel númerico. Esta clase es parte de un curso gratuito dictado en la Ciudad de Mendoza, Argentina en Otoño de 2021. Podés encontrar todo el material en https://datitos.github.io/curso-aprendizaje-profundo/2021/ 0:00 Introducción 0:42 Limitación de la Codificación One-Hot 3:29 Concepto de Embedding 5:50 Similitud del Coseno 7:55 Embeddings de Palabras 12:30 Semántica Distribucional 15:58 Skipgram vs CBOW 18:44 Armado del Dataset 23:20 Muestreo Negativo 27:54 Entrenamiento de Word2Vec 32:08 Implementación del Entrenamiento de Word2Vec con PyTorch 38:25 GloVe 48:28 fastText
Sobre este curso
https://datitos.github.io/curso-aprendizaje-profundo En los últimos cinco años el aprendizaje profundo ha tomado al mundo por sorpresa, impulsando un rápido progreso en campos tan diversos como la visión por computadora, el procesamiento del lenguaje natural, el reconocimiento automático del habla, el aprendizaje por refuerzos y el modelado estadístico. Hemos elegido basar el curso en el libro Dive into Deep Learning, consideramos que ofrece un enfoque práctico, amplio y moderno, incluye matemáticas y código, y sus contenidos son actuales. Este curso representa nuestro intento de hacer que el aprendizaje profundo sea accesible, enseñándote los conceptos, el contexto y el código. Nos propusimos crear un recurso que simultáneamente pudiera: * estar disponible gratuitamente para todes; * ofrecer suficiente profundidad técnica para * proporcionar un punto de partida en el camino de convertirte en unx científicx de datos; * incluir código ejecutable, que muestre cómo resolver problemas en la práctica. El curso está dirigido a estudiantes de grado o posgrado, ingenierxs e investigadores que busquen un conocimiento sólido del aprendizaje profundo.
Lo que aprenderás en este curso:
- Comprender los fundamentos del aprendizaje automático
- Implementar algoritmos de clasificación y regresión
- Preparar y limpiar datos para modelos predictivos
- Evaluar y optimizar modelos de machine learning