Cuando un agente de IA te da una respuesta equivocada, la causa no siempre es que se la haya inventado. Muchas veces ha leído un precio antiguo, un horario que cambió el mes pasado o dos documentos que se contradicen, y ha repetido lo que encontró con total aplomo. La diferencia importa porque cambia lo que hay que arreglar: si el fallo es del agente, se ajusta el agente; si es de tus datos, se corrigen tus datos, y tocar el agente no servirá de nada.
Piensa en el cliente que te escribe molesto porque el asistente de tu web le dijo que el envío era gratis a partir de cierto importe, cuando esa promoción terminó hace semanas. La reacción habitual es decir «la IA se ha inventado algo». A veces es verdad. Pero antes de culpar a la máquina conviene seguir el rastro de la respuesta, igual que harías si un empleado hubiera dado ese mismo dato.
Qué es una alucinación y qué es un dato erróneo
Una alucinación es una respuesta que suena razonable pero no se apoya en ninguna de las fuentes que le diste al agente: ante un hueco de información, el programa rellena con lo que parece más probable en lugar de reconocer que no lo sabe. Un dato erróneo es otra cosa: el agente ha encontrado algo en tus documentos y lo ha repetido fielmente, pero lo que estaba escrito era incorrecto, estaba desactualizado o convivía con otra versión distinta.
Desde fuera los dos fallos se ven igual: una respuesta equivocada dicha con seguridad. Por dentro, la causa es opuesta. En el primer caso el problema está en cómo se ha configurado el agente; en el segundo, en la información que le diste. Es como el empleado nuevo al que entregas la lista de precios del año pasado: no miente, aplica lo que tiene. Si quieres profundizar en el primer caso, tienes qué es una alucinación de un modelo de IA.
Un método de cuatro pasos para rastrear una respuesta mala
Cuando recibas una queja o detectes una respuesta dudosa, antes de cambiar nada sigue este orden:
- Guarda la prueba. Anota la pregunta exacta, la respuesta completa, el canal y la fecha. Si no la conservas tal cual, luego se discute sobre una versión recordada.
- Averigua en qué se apoyó. Un agente bien montado puede indicar de qué documento o apartado sacó cada afirmación. Si el tuyo no lo hace, es una carencia que conviene corregir, porque sin rastro no hay diagnóstico posible.
- Busca esa afirmación en tus documentos. Si aparece igual, el fallo es un dato erróneo o desactualizado. Si aparecen dos versiones distintas, tienes una contradicción. Si no aparece en ninguna parte, estás ante una alucinación o ante una deducción que el agente no debería haber hecho.
- Repite la pregunta de varias maneras. Si la respuesta cambia cada vez, el agente no tiene una base firme y está improvisando. Si siempre da la misma, es probable que lea una fuente concreta y que esa fuente sea la culpable.
Los orígenes más habituales de un dato erróneo
Casi siempre se repiten los mismos patrones:
- Versiones duplicadas. La tarifa vieja y la nueva conviven en carpetas distintas y nadie borró la primera.
- Cambios que nunca se escribieron. Se acordaron por mensaje o de palabra, y el documento sigue diciendo lo anterior.
- Excepciones que viven en la cabeza de alguien. «A los clientes de siempre se les hace otro trato», pero el manual no lo recoge.
- Datos copiados entre sistemas. El precio de la web, el de la hoja interna y el del presupuesto no se actualizan a la vez.
- Redacción ambigua. Una condición escrita de forma que admite dos lecturas: el agente elige una y tú esperabas la otra.
Estos problemas ya existían antes del agente. Lo que ocurre es que el agente los hace visibles, porque contesta a mucha gente y con rapidez. Tiene su parte buena: ordenar tu información beneficia también a tu equipo, que deja de preguntarse cuál es el documento bueno. Sobre cómo mantener un conocimiento fiable en la empresa, mira gestión del conocimiento con IA.
¿Qué corrijo: el dato, el manual o el agente?
Depende de lo que haya salido en el rastreo, y la regla práctica es corregir siempre en el origen del problema, no donde se nota.
- Si el dato está mal, corrígelo en la fuente original y retira las copias viejas. Arreglarlo solo dentro del agente deja el error vivo para el resto del equipo, que seguirá consultando el documento equivocado.
- Si el manual se contradice o es ambiguo, reescríbelo en una única versión, con fecha y con una persona responsable de mantenerlo. El agente leerá esa y solo esa.
- Si el agente se lo inventó, hay que cambiar sus instrucciones para que conteste únicamente con lo que consta en tus documentos y, cuando no lo encuentre, lo diga y pase la consulta a una persona. Cómo se consigue está explicado en que la IA sepa decir «no lo sé».
Si dudas entre varias causas, empieza por los datos: en la práctica suele ser lo más rápido de comprobar y evita ajustar el agente cuando no hacía falta.
Qué hace el agente y qué sigue haciendo una persona
El agente puede ayudarte a detectar problemas antes de que lleguen al cliente: señalar documentos que se contradicen, avisar de que una fecha de vigencia ya pasó o recopilar las respuestas que los clientes han cuestionado para que las revises en un rato. Lo que no puede hacer es decidir cuál de dos versiones es la buena. Eso lo sabes tú, o quien lleve ese asunto, ya sean los precios, las condiciones o los plazos. Tampoco puede enterarse por sí solo de que algo cambió en tu negocio si nadie se lo cuenta.
Un hábito sencillo marca la diferencia: designa un responsable por cada documento que alimenta al agente y exige que cada cambio de precio, horario o condición se escriba en ese documento el mismo día. Revisa cada cierto tiempo una muestra de respuestas, incluso cuando no haya quejas, para pillar los fallos antes que el cliente.
Qué cuidar con los datos de clientes y con las decisiones importantes
Si el agente maneja datos personales, aplica la normativa de protección de datos: dale acceso solo a la información que necesita para responder y no cargues más de la cuenta. Y aunque pongas todo el cuidado, ningún agente es infalible. Por eso las decisiones con consecuencias, como un reembolso, una excepción de precio o una condición especial, siguen pasando por una persona que las aprueba. El agente prepara, ordena y avisa; la última palabra en lo que compromete a tu empresa es tuya.
Conclusión
Una respuesta equivocada tiene al menos dos posibles culpables: un agente que improvisa o una información que ya no era cierta. Rastrear el origen antes de tocar nada te ahorra arreglar lo que no estaba roto, y te obliga a poner al día los documentos de los que depende todo lo demás.
En MG Solutions construimos agentes de IA específicos para cada empresa, adaptados a tu forma de trabajar y a tus herramientas, no una plantilla genérica.
Si quieres ver cómo encajaría en tu empresa, escríbenos y lo hablamos.