Guia · Nivel Inicial · Modelos
Limitaciones: alucinaciones, vigencia y verificación
Por qué la IA produce información incorrecta convincente: alucinaciones, fecha de corte, no determinismo, sesgos. Y por qué verificar no es opcional.
Publicado: 04/10/2026 · Última revisión: 04/10/2026 · Lectura: 10 min
Alucinaciones: plausible no es verdadero
La idea más importante del módulo: la calidad de la redacción no demuestra la exactitud. Un modelo genera lo más probable, no lo verificado. Cuando completa con datos inventados pero convincentes (fechas, citas, URLs, números), hablamos de alucinación.
El modelo no miente (mentir requiere intención): predice. Por eso la fluidez no es evidencia y verificar no es desconfianza, es el procedimiento, sobre todo en salud, leyes, dinero y seguridad.
Vigencia, no determinismo y ambigüedad
Su conocimiento interno tiene fecha de corte: todo lo posterior lo desconoce salvo que se lo des por contexto o herramientas. La información externa y actualizada solo entra por esas vÃas.
Además es no determinista: la misma pregunta puede dar respuestas distintas (el muestreo de tokens incluye azar y los proveedores actualizan modelos). Y las instrucciones vagas producen respuestas vagas: precisar reduce errores.
Sesgos y verificación
Los datos de entrenamiento traen sesgos sociales y errores; el modelo los hereda y puede amplificarlos. Afecta contratación, crédito, moderación y más: ninguna salida automática sobre personas deberÃa aplicarse sin revisión.
Ejemplo de riesgo real: pedir fallos jurisprudenciales con cita completa y pegarlos en un escrito sin verificar cada cita en la fuente original. El uso correcto es pedir el borrador, exigir fuentes y verificar afirmación por afirmación.
Fuentes
- AI Risk Management Framework (documentacion-tecnica) · consultado 03/10/2026
- Survey: Hallucination in Natural Language Generation (paper) · consultado 03/10/2026
Seguir aprendiendo
- RAG, supervisión humana y riesgos de los agentes (Intermedio)