Evitar alucinaciones y verificar fuentes

Un LLM puede inventar hechos con total seguridad. A esto se le llama alucinación, y es el mayor riesgo de uso directo.

¿Por qué alucina?

• Predice texto plausible, no necesariamente verdadero.
• No tiene acceso a tus datos ni a fuentes actualizadas (salvo que se le den).
• Completa huecos de conocimiento con invenciones convincentes.

Cómo mitigarlo

• RAG: dale los documentos fuente y pídele citar (ver curso 4).
• Pide verificación: "¿De dónde sale este dato? Cita la fuente."
• Para hechos críticos, confirma por fuera (web, base de datos).
• Baja la temperatura para tareas factuales.