Alucinación de IA

Por qué ocurre

Los modelos de lenguaje están hechos para producir texto verosímil. Ante una pregunta que no pueden responder con datos, pueden producir igualmente algo con aspecto de respuesta —una cifra de ventas, el nombre de un cliente, una fecha— porque lo verosímil es lo que mejor se les da.

Por qué es peligrosa en ventas

Una cifra alucinada no parece incorrecta. Un comercial se la repite a un cliente («este año has gastado unos 40.000 € con nosotros»), el cliente sabe que fueron 25.000 €, y la confianza desaparece: en el comercial y en la herramienta. En administración, una deuda vencida inventada puede abrir la conversación equivocada con un buen cliente.

Cómo evitarla

• Responder a partir de una consulta real a tus datos, no del conocimiento general del modelo.
• Tratar un resultado vacío como «no lo sé», de forma determinista, antes de redactar nada.
• Mantener la respuesta estrictamente ligada a las cifras devueltas.
• Probarlo: pregunta por un cliente que no existe. La respuesta correcta es que ese cliente no existe.

Dónde encaja emily

emily nunca inventa cifras: cada dato sale de tus datos y, cuando los datos no están, lo dice. Consulta las cifras fiables y emily frente a ChatGPT y Copilot.