- Panorama general del lenguaje natural y su tratamiento computacional
- Distinciones entre aprendizaje profundo y aprendizaje tradicional
- Métodos para representar el lenguaje en vectores
- Bases de las redes neuronales artificiales
- Funcionamiento básico de las redes recurrentes
- Problemas de estabilidad en el entrenamiento
- Mejoras con unidades LSTM y GRU
- Aplicaciones a series de texto y contextos dependientes
- Uso de CNN para modelado de secuencias textuales
- Detección de patrones locales en frases
- Comparativa con modelos secuenciales
- Combinación de CNN y RNN en entornos mixtos
- Fundamentos del mecanismo de atención en redes neuronales
- Estructura del modelo Transformer
- División funcional entre codificadores y decodificadores
- Evaluación frente a arquitecturas anteriores
- Concepto de preentrenamiento en grandes corpus
- Principales modelos del estado del arte: BERT, GPT, etc
- Ajuste fino para tareas concretas
- Transferencia de conocimientos entre dominios
- Conceptos clave en la producción automática de texto
- Arquitecturas generativas modernas
- Estrategias para generar secuencias coherentes
- Personalización del estilo y contenido generado
- Métodos de tokenización
- Lematización y stemming
- Eliminación de stopwords y símbolos
- Casos prácticos de normalización
- One-hot encoding y Bag of Words
- TF-IDF y sus variantes
- Limitaciones de las representaciones clásicas
- Concepto de word embedding
- Word2Vec: Skip-gram y CBOW
- GloVe y FastText
- Visualización de embeddings
- Limitaciones de embeddings estáticos
- Embeddings contextuales: ELMo y BERT
- Fine-tuning de embeddings
- Aplicaciones prácticas
- Detección y corrección ortográfica
- Manejo de emojis y caracteres especiales
- Normalización de entidades y nombres propios
- Preprocesamiento multilingüe
- N-gramas y extracción de frases clave
- Selección de características relevantes
- Reducción de dimensionalidad
- Técnicas de extracción automática
- Estadísticas descriptivas en NLP
- Detección de outliers en texto
- Análisis de frecuencias y coocurrencias
- Herramientas para análisis exploratorio
- Eliminación de duplicados y ruido
- Filtrado de textos irrelevantes
- Detección y manejo de datos corruptos
- Automatización del proceso de limpieza
- Arquitectura básica de perceptrón multicapa
- Adaptación de redes a tareas de texto
- Entrenamiento y validación en NLP
- Casos de uso iniciales
- Funcionamiento de redes feedforward
- Clasificación de textos con redes densas
- Limitaciones para secuencias largas
- Ejemplos prácticos
- Principios de las RNN
- Backpropagation Through Time (BPTT)
- Aplicaciones en secuencias de texto
- Problemas de desvanecimiento del gradiente
- Arquitectura de LSTM
- Diferencias entre LSTM y GRU
- Aplicaciones en NLP
- Comparativa de rendimiento
- Adaptación de CNN al procesamiento de texto
- Extracción de características locales
- Modelos híbridos CNN-RNN
- Aplicaciones en clasificación y análisis de sentimiento
- Principios de autoencoders
- Reducción de dimensionalidad en texto
- Aplicaciones en generación y compresión
- Limitaciones de los autoencoders
- Arquitectura encoder-decoder
- Aplicaciones en traducción automática
- Atención básica en Seq2Seq
- Ejemplos prácticos
- Técnicas de regularización (Dropout, BatchNorm)
- Early stopping y ajuste de hiperparámetros
- Optimización específica para texto
- Estrategias para evitar overfitting
- Concepto de atención en redes neuronales
- Motivación y ventajas
- Atención global vs. local
- Aplicaciones iniciales
- Estructura básica de un Transformer
- Multi-head attention
- Positional encoding
- Entrenamiento y escalabilidad
- Introducción a BERT
- Pre-entrenamiento y fine-tuning
- Modelos derivados: RoBERTa, DistilBERT
- Aplicaciones en NLP
- Arquitectura de GPT y variantes
- Generación de texto coherente
- Aplicaciones en chatbots y asistentes
- Limitaciones y retos
- Encoder-decoder con atención
- Traducción automática avanzada
- Resumen automático de textos
- Implementación práctica
- Modelos multilingües: mBERT, XLM-R
- Transferencia entre idiomas
- Modelos multimodales: texto-imagen
- Aplicaciones y desafíos
- Selección de tareas y datasets
- Ajuste de hiperparámetros
- Técnicas de regularización
- Evaluación de resultados
- Visualización de pesos de atención
- Análisis de decisiones del modelo
- Herramientas para interpretabilidad
- Casos prácticos
- Modelos de Markov y n-gramas
- Modelos de lenguaje neuronal
- Generación y predicción de texto
- Evaluación de modelos probabilísticos
- Autoencoders variacionales (VAE)
- Generative Adversarial Networks (GANs) para texto
- Aplicaciones creativas y de síntesis
- Retos y limitaciones
- Introducción al modelado de temas
- Latent Dirichlet Allocation (LDA)
- Aplicaciones en clasificación y clustering
- Visualización de temas
- Fundamentos del aprendizaje por refuerzo
- Aplicaciones en generación de texto
- Modelos de diálogo interactivo
- Retos y oportunidades
- Conceptos clave y motivación
- Modelos preentrenados y adaptación rápida
- Aplicaciones en tareas con pocos datos
- Ejemplos prácticos
- Métodos de aumento de datos en texto
- Generación de ejemplos sintéticos
- Evaluación del impacto en modelos
- Herramientas y librerías
- Métodos para explicar modelos de NLP
- Herramientas: LIME, SHAP, ELI5
- Visualización de decisiones
- Casos de uso
- Ataques adversariales en NLP
- Estrategias de defensa y robustez
- Evaluación de la seguridad de modelos
- Buenas prácticas
- Procesamiento de historias clínicas
- Extracción de información médica
- Análisis de literatura científica
- Aplicaciones en diagnóstico asistido
- Análisis de noticias financieras
- Procesamiento de informes y contratos
- Detección de fraude y anomalías
- Aplicaciones en trading algorítmico
- Procesamiento de contratos legales
- Extracción de cláusulas y entidades
- Análisis de jurisprudencia
- Automatización de informes legales
- Análisis de contenidos educativos
- Generación automática de ejercicios
- Evaluación automática de respuestas
- Personalización del aprendizaje
- Análisis de campañas y encuestas
- Detección de tendencias y temas emergentes
- Segmentación de audiencias
- Aplicaciones en reputación online
- Análisis de currículums y cartas de presentación
- Matching automático de candidatos
- Detección de habilidades y competencias
- Automatización de procesos de selección
- Análisis de reseñas y opiniones de productos
- Detección de necesidades del cliente
- Recomendaciones personalizadas
- Automatización de atención al cliente
- Análisis de noticias y tendencias
- Detección de fake news
- Generación automática de titulares
- Monitorización de medios
- Conceptos básicos de MLOps
- Ciclo de vida de un modelo NLP
- Herramientas y plataformas para MLOps
- Desafíos en la operacionalización
- Estrategias de despliegue (batch, online, edge)
- Contenerización con Docker
- Orquestación con Kubernetes
- Integración continua y despliegue continuo (CI/CD)
- Seguimiento de métricas en producción
- Detección de drift y degradación de modelos
- Retraining y actualización de modelos
- Alertas y sistemas de monitorización
- Optimización de recursos en producción
- Balanceo de carga y alta disponibilidad
- Técnicas de paralelización
- Costes y eficiencia
- Amenazas y vulnerabilidades en NLP
- Estrategias de protección de datos
- Cumplimiento normativo (GDPR, etc.)
- Auditoría y trazabilidad
- Diseño de APIs para modelos NLP
- Integración con sistemas externos
- Microservicios y arquitectura orientada a servicios
- Casos prácticos
- Herramientas de automatización (Airflow, Kubeflow)
- Definición de workflows de NLP
- Gestión de dependencias y versiones
- Ejemplos de pipelines automatizados
- Pruebas unitarias y de integración
- Validación continua de modelos
- Pruebas A/B y experimentación
- Gestión de incidencias
- Versionado de modelos y datasets
- Herramientas de control de versiones
- Rollback y gestión de cambios
- Estrategias de actualización
- Embedding de modelos en aplicaciones web y móviles
- Integración con chatbots y asistentes
- Casos de uso en empresas
- Retos y soluciones
- Métricas clave para modelos en producción
- Dashboards y visualización de resultados
- Análisis de logs y trazabilidad
- Presentación de resultados a stakeholders
- Estrategias para reducir costes
- Uso eficiente de recursos cloud
- Automatización de escalado
- Evaluación de ROI
- Consideraciones éticas en producción
- Cumplimiento de normativas
- Transparencia y explicabilidad
- Casos prácticos
- Ética en el desarrollo de modelos de lenguaje
- Responsabilidad social en IA
- Transparencia y explicabilidad
- Ejemplos de dilemas éticos
- Tipos de sesgos en NLP
- Detección y mitigación de sesgos
- Impacto social de los sesgos
- Estrategias de reducción
- Regulaciones de privacidad aplicables
- Técnicas de anonimización y seudonimización
- Gestión de datos sensibles
- Casos prácticos
