NLP y Análisis Semántico

Diapositivas

Semana 1

• Introducción a NLP
• Expresiones Regulares
• Preprocesamiento de Texto

Semana 2

• Bolsa de Palabras (BoW) y One-hot Encoding
• TF-IDF: Encontrando lo Relevante
• Información Mutua Puntual (PMI) y N-gramas

Semana 3

• Modelos de Lenguaje N-gram y Regla de la Cadena
• Evaluación: Perplejidad y Técnicas de Suavizado
• Modelos Ocultos de Markov (HMM) para Etiquetado POS

Semana 4

• Word2Vec: Skip-gram y CBOW
• GloVe y FastText: Embeddings de Subpalabras
• Visualización de Datos de Alta Dimensión: t-SNE y PCA

Semana 5

• Repaso de Perceptrones y Retropropagación
• Perceptrones Multicapa para Clasificación de Texto
• Variantes de Descenso de Gradiente y Regularización

Semana 6

• Arquitectura RNN: Manejando Longitud Variable
• Gradientes que Desaparecen y la Solución LSTM
• GRU y RNNs Bidireccionales

Semana 7

• Arquitecturas Codificador-Decodificador (Seq2Seq)
• Traducción Automática Neuronal (NMT)
• El Mecanismo de Atención

Semana 8

• Convoluciones 1D para Texto
• Max Pooling Global vs. Local
• Comparación RNNs vs. CNNs para Clasificación

Semana 9

• Atención de Producto Escalar (Queries, Keys, Values)
• Atención Multi-Cabeza y Codificación Posicional
• El Bloque Transformer Completo (Residuales, Normalización)

Tareas

• Tarea 1: Analizador de Sentimiento con TF-IDF + Regresión Logística — Entrega: Semana 4
• Tarea 2: Generador de Nombres a Nivel de Caracteres con LSTM — Entrega: Semana 8

Información general

• Programa del Curso