Tarea 6.1: Análisis de artículos (Fine-tuning, Domain Adaptation y Prompting)

Objetivo

El objetivo de esta actividad es analizar de manera crítica un artículo científico reciente en el área de Procesamiento de Lenguaje Natural, enfocándose en estrategias modernas de fine-tuning, ajuste de dominio o prompting, y evalúa sus fortalezas, limitaciones y posibles mejoras.

Descripción de la actividad

• Seleccionar un artículo científico publicado en conferencia o journal relevante (ACL, EMNLP, NAACL, NeurIPS, ICLR, etc.), que proponga o utilice alguna de las siguientes estrategias:
  Fine-tuning de modelos Transformer
  Ajuste de dominio (domain adaptation)
  Prompting (zero-shot, few-shot, instruction tuning, etc.)
• Se recomienda buscar artículos en el repositorio oficial de la comunidad de PLN:
  ACL Anthology: https://aclanthology.org/
• El artículo debe estar claramente enfocado en una tarea de PLN (por ejemplo: clasificación, NER, QA, generación de texto, etc.).

Entregable

Se deberá entregar una presentación (PDF o PowerPoint) que incluya de forma clara y sintética:

• Introducción: problema, motivación y contribuciones
• Trabajo relacionado: contexto y enfoques previos
• Metodología: modelo y estrategia utilizada
• Dataset(s): descripción de los datos
• Configuración experimental: entrenamiento y baselines
• Resultados: métricas y comparación con el estado del arte
• Conclusiones: hallazgos principales

Análisis crítico (sección obligatoria)

Incluir una sección final con análisis propio que contemple:

Análisis de la estrategia:

• ¿Por qué la estrategia propuesta funciona?
• ¿Qué ventajas ofrece frente a otras aproximaciones?
• ¿Es escalable o depende fuertemente de recursos/datos?

Debilidades del trabajo:

• Limitaciones metodológicas o del modelo
• Problemas en el diseño experimental
• Posibles sesgos en los datos o en la evaluación
• Comparaciones faltantes o insuficientes

Propuestas de mejora:

• ¿Cómo mejorarías el enfoque propuesto?
• ¿Qué experimentos adicionales agregarías?
• ¿Se podría combinar con otras técnicas vistas en clase?