Limitaciones: alucinaciones, vigencia, no determinismo y sesgos

Qué aprenderás

• Alucinaciones: respuesta plausible vs. respuesta verdadera.
• Conocimiento interno, vigencia temporal e información externa.
• No determinismo, ambigüedad y sesgos. Por qué verificar siempre.

Explicación sencilla

La idea más importante del módulo: la calidad de la redacción no demuestra la exactitud. Un modelo genera lo más probable, no lo verificado. Cuando completa con datos inventados pero convincentes (fechas, citas, URLs, números), hablamos de alucinación.

Una forma de imaginarlo

Un estudiante que redacta de maravilla pero a veces inventa la bibliografía. Le creerías menos si supieras que nunca abre un libro durante el examen: el modelo "rinde" solo con lo que trae de su entrenamiento más lo que le pases en contexto.

Un poco más de profundidad

• Conocimiento interno: lo aprendido en el entrenamiento, con **fecha de

corte**. Todo lo posterior lo desconoce salvo que se lo des.

• Información externa: la que llega por contexto, búsqueda o herramientas.

Es la única vía para datos actuales (Unidad 8).

• No determinismo: la misma pregunta puede dar respuestas distintas (el

muestreo de tokens incluye azar; además los proveedores actualizan modelos).

• Ambigüedad: instrucciones vagas → respuestas vagas. Precisar reduce errores.
• Sesgos: los datos traen sesgos sociales y errores; el modelo los hereda y

puede amplificarlos. Afecta contratación, crédito, moderación y más.

Ejemplo en una organización

Pedir "los 5 fallos jurisprudenciales clave sobre X con cita completa" y pegarlo en un escrito sin verificar: riesgo profesional real. El uso correcto es pedir el borrador, exigir fuentes y verificar cada cita en la fuente original (Unidad 10).

Profundización técnica

(Opcional.) La temperatura y el muestreo top-p/top-k controlan cuánto azar hay en la elección de tokens: a mayor temperatura, más variedad y más riesgo de invención. Fijar semilla (seed) ayuda a reproducibilidad aproximada, nunca garantizada entre versiones del modelo. Los benchmarks miden capacidades promedio, no la exactitud de tu próxima respuesta.

Qué no significa

• Que el modelo "mienta" (mentir requiere intención; predice, no engaña).
• Que siempre alucine (en tareas acotadas con buen contexto es muy fiable).
• Que verificar sea opcional en temas críticos (salud, leyes, dinero, seguridad).

Errores frecuentes

1. Confiar porque "suena profesional".
2. Pedir datos posteriores a la fecha de corte sin darle fuentes.
3. Usar la misma salida dos veces esperando idéntico resultado.

Ideas principales

• Plausible ≠ verdadero. La fluidez no es evidencia.
• Su conocimiento tiene fecha de corte; lo nuevo entra por contexto/herramientas.
• Puede variar entre intentos y hereda sesgos de los datos.
• Verificar no es desconfianza: es el procedimiento (Unidad 10).

Autoevaluación

1. ¿Qué es una alucinación y por qué ocurre?
2. ¿Por qué un LLM no debe tratarse como una base de datos de hechos?
3. Nombrá dos fuentes de variación entre dos respuestas a la misma pregunta.

Fuentes

• AI Risk Management Framework (sesgos, validez, explicabilidad) — NIST — https://www.nist.gov/itl/ai-risk-management-framework — consulta: 2026-10-03.
• Survey: Hallucination in Natural Language Generation — arXiv — https://arxiv.org/abs/2202.03629 — consulta: 2026-10-03.
• Guías relacionadas: RAG, riesgos y supervisión; Reproducibilidad y limitaciones.

Seguir aprendiendo

• Unidad 7: de chatbot a sistema (herramientas que reducen estos errores).
• Más adelante: Módulo 5 (uso responsable) y Módulo 23 (evaluaciones).