Por qué un LLM puede equivocarse y por qué no es una fuente de verdad
Alucinaciones, conocimiento incompleto, contexto insuficiente, sesgos, fuentes, grounding y verificación.
Lectura: 15 min · Última revisión: 2026-10-03
Qué aprenderás
- Por qué una salida plausible puede ser falsa.
- Qué clases de errores aparecen en el modelo y en el sistema que lo rodea.
- Cómo combinar fuentes, RAG, tools, verificación y supervisión.
Fluidez no es exactitud
Un LLM optimiza la generación de continuaciones compatibles con sus patrones y con el contexto disponible. No tiene una garantía automática de que cada afirmación sea verdadera, vigente o pertinente. Puede producir una respuesta clara, segura y bien estructurada aun cuando el dato sea inventado o esté desactualizado.
respuesta fluida ≠ respuesta correcta
confianza lingüística ≠ certeza factual
LLM ≠ base de datos
LLM ≠ fuente absoluta de verdad
Fuentes de error
- Alucinación: afirmación, cita o detalle generado sin respaldo suficiente.
- Conocimiento incompleto o desactualizado: el modelo no contiene cambios
recientes o no tiene el dato específico.
- Ambigüedad: la pregunta admite varias interpretaciones.
- Contexto insuficiente o excesivo: falta un dato clave o sobra material que
confunde.
- Instrucciones contradictorias: reglas de distintas fuentes chocan.
- Error de razonamiento: una cadena de inferencias, cálculo o comparación
falla aunque la redacción sea convincente.
- Sesgo: los datos, objetivos o decisiones de diseño pueden favorecer
patrones injustos o poco representativos.
- Error externo: un documento, índice RAG, tool o sistema consultado puede
estar equivocado, caído o desactualizado.
Grounding, RAG y herramientas
El grounding conecta una respuesta con información de referencia disponible para la tarea. En RAG, una aplicación recupera fragmentos relevantes desde un índice o fuente y los incluye en el contexto. RAG puede mejorar trazabilidad, pero no verifica por sí solo la calidad de los documentos ni obliga al modelo a usar correctamente cada fragmento.
Una tool permite que el sistema consulte una API, ejecute una operación o recupere un dato. La herramienta puede ser más apropiada que el modelo para consultar saldo, calcular un total o leer el estado actual. Sus permisos, entradas y resultados requieren controles propios.
Un proceso de verificación
- Definir qué afirmaciones son críticas.
- Identificar la fuente de verdad para cada una.
- Recuperar datos actuales o documentos aprobados.
- Comparar la salida con esas fuentes, reglas y cálculos.
- Registrar incertidumbres y derivar a una persona cuando corresponda.
Ejemplo en una organización
En administración, el modelo resume facturas del mes. La aplicación consulta el ERP para obtener importes y estados, adjunta los registros seleccionados y pide un resumen con enlaces a cada factura. Una regla calcula el total por separado. Una persona revisa excepciones antes de aprobar un pago. El LLM ayuda a redactar y ordenar información, pero el ERP y la política vigente son las fuentes de verdad para esas decisiones.
Una simplificación útil
Analogía simplificada: el profesional nuevo redacta un informe a partir de una carpeta que le entrega la empresa. La carpeta puede estar incompleta o tener una versión vieja, por eso el responsable contrasta los puntos importantes con el sistema oficial. La analogía no atribuye intención ni conciencia al LLM.
Qué no significa
- RAG no convierte un documento incorrecto en correcto.
- Una cita generada no prueba que el texto haya sido consultado.
- Una tool no es confiable solo por estar conectada.
- Supervisión humana no significa revisar todo de la misma manera: se priorizan
riesgos y decisiones críticas.
Errores frecuentes
- Preguntar al LLM un dato transaccional que vive en otro sistema.
- Tomar el tono seguro como indicador de certeza.
- Recuperar documentos sin controlar versión, permisos o procedencia.
- Automatizar una acción irreversible sin aprobación ni registro.
Ideas principales
- La generación plausible puede ser incorrecta.
- El error puede venir del modelo, del contexto o de una fuente externa.
- RAG y tools ayudan a conectar información actual, pero necesitan controles.
- Verificación y supervisión deben diseñarse según el impacto de la tarea.
Autoevaluación
- ¿Por qué una respuesta bien escrita puede seguir siendo falsa?
- ¿Qué parte del proceso debe verificarse cuando un RAG recupera un documento?
- ¿Cuándo conviene que una tool haga el cálculo en vez del LLM?
Fuentes
- AI Risk Management Framework — NIST — https://www.nist.gov/itl/ai-risk-management-framework — consulta: 2026-10-03.
- Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks — Lewis et al., arXiv — https://arxiv.org/abs/2005.11401 — consulta: 2026-10-03.
- OWASP Top 10 for Large Language Model Applications — OWASP — https://owasp.org/www-project-top-10-for-large-language-model-applications/ — consulta: 2026-10-03.
Seguir aprendiendo
- Unidad 12: qué significa hablar prudentemente de razonamiento.
- Unidad 13: elegir modelo según riesgo y tarea.
- Módulo 4: construir contexto verificable.