Una alucinación es lo que ocurre cuando una IA escribe, con total seguridad, algo que no es verdad: un importe que no existe, una fecha que nadie ha dicho, una condición que no figura en ninguna parte. En un borrador interno apenas importa. En un presupuesto o una factura que sale hacia un cliente puede costar dinero real. Lo útil no es temerlas en general, sino saber en qué papeles hay que exigir comprobación y en cuáles basta con echar un vistazo.
Una gran empresa no deja que un documento con importes salga sin un control: hay tarifas oficiales, aprobaciones por escalones y alguien que revisa. No hace falta copiar su burocracia, pero sí su regla de fondo: el número sale de una fuente, nunca de la memoria de quien redacta. Con un agente de IA, esa regla se vuelve imprescindible.
¿Dónde cuesta dinero una invención de la IA?
El motivo es sencillo. Un agente que redacta no «sabe» tu tarifa de este año ni el descuento pactado con un cliente concreto, a no ser que se lo des. Cuando le falta un dato, puede rellenar el hueco con algo verosímil, que es justo lo más peligroso, porque nadie sospecha de lo que parece normal. El mapa de riesgo tiene tres zonas.
Zona roja: cuesta dinero directamente.
- Importes, sumas y totales.
- Descuentos y condiciones de pago.
- Plazos de entrega y fechas de validez de la oferta.
- Fechas de vencimiento en una factura.
- Datos del cliente: nombre fiscal, identificación fiscal, dirección de facturación, cuenta de pago.
- Lo que el servicio incluye y lo que no, es decir, el alcance prometido.
- Garantías y compromisos que el texto dé por hechos.
Zona ámbar: cuesta tiempo y confianza.
- Resúmenes de reuniones que luego sirven de base al presupuesto.
- Descripciones técnicas de productos o servicios.
- Respuestas a dudas del cliente sobre cómo funciona algo.
- Cartas de reclamación de un cobro, donde el tono y los datos importan.
Zona verde: apenas importa.
- Borradores internos que alguien va a reescribir.
- Ideas para el texto de una propuesta, títulos, resúmenes de notas para uso propio.
- Ordenar información que ya tienes.
La clasificación no es fija. Un resumen de reunión, que parece inocuo, pasa a zona roja si de él sale el alcance de un presupuesto.
¿Cómo se evita que el agente invente un importe?
El principio es separar tres cosas: redactar, calcular y decidir. El agente puede redactar. Los importes se toman de tu tarifa o del programa de gestión, no se generan: el agente los coloca donde toca. Y las decisiones, como un descuento fuera de lo normal, las toma una persona.
En la práctica significa:
- Los campos sensibles son datos, no texto libre. En la plantilla del presupuesto, el precio y la fecha de validez se rellenan desde una tabla o desde el programa que ya usas.
- Si falta un dato, el agente se detiene y pregunta. Se le configura para que nunca complete un hueco por su cuenta. Es la instrucción más barata y la más eficaz.
- El agente indica de dónde ha sacado cada cifra. Si no puede señalar la fuente, esa cifra no entra.
Verificación automática y revisión humana: qué va dónde
No todo el control tiene que ser una persona leyendo. Una máquina comprueba mejor que alguien cansado, a las siete de la tarde, que las líneas suman el total. Reparte así:
Verificación automática (barata y rápida):
- Que las líneas sumen el total y que el impuesto aplicado sea el que figura en tus reglas.
- Que cada producto exista en la tarifa y su precio coincida con ella.
- Que la fecha de validez no sea anterior a hoy y que la de vencimiento tenga sentido.
- Que la identificación fiscal tenga un formato válido y el cliente exista en tu base.
- Que ningún descuento supere el tope que hayas fijado.
Revisión humana (donde hace falta criterio):
- El alcance: ¿lo que promete el texto es lo que vais a hacer?
- Condiciones poco habituales, clientes grandes o importes por encima de un umbral que fijes tú.
- La primera factura a un cliente nuevo.
- Cualquier documento en el que el agente haya marcado dudas.
Un truco que ahorra tiempo: pide al agente que señale en el documento qué ha tomado de una fuente y qué ha escrito él. Así la persona revisa con atención solo lo segundo.
Qué hace el agente y qué sigue haciendo una persona
El agente prepara el borrador a partir de la tarifa y de la ficha del cliente, comprueba que todo cuadre, avisa de lo que falta, y archiva el documento con su versión. Elimina el copiar y pegar, que es donde se cuelan muchos errores humanos.
La persona aprueba el envío y decide los descuentos y las excepciones. En las facturas hay un límite más: el tratamiento fiscal (impuestos, retenciones, exenciones) y los requisitos legales de la factura los fija tu asesor o gestor. El agente aplica las reglas que él ha validado; no las inventa ni las interpreta. Y si se emite una factura con un error, cómo se corrige es un trámite que también decide tu gestor.
Cómo empezar sin riesgo
Un recorrido prudente, en cuatro pasos:
- Empieza por la zona verde y ámbar: resúmenes, borradores de texto, descripciones.
- Pon al agente a preparar presupuestos «en sombra»: tú los haces como siempre, él prepara los suyos y comparáis.
- Anota cada discrepancia. Esa lista es la base de tus controles automáticos.
- Cuando lleves unas semanas sin discrepancias importantes, deja que prepare borradores que solo apruebas. El envío sigue siendo tuyo.
Si quieres ver el proceso completo, lo explicamos en cómo automatizar la generación de presupuestos y en automatizar facturas con IA: de la bandeja de entrada al ERP. Para entender mejor el fenómeno de fondo, tienes alucinaciones de la IA: qué son y cómo evitarlas.
Conclusión
Las alucinaciones no son un riesgo uniforme. En un borrador interno son una molestia y en un presupuesto o una factura pueden costar dinero, tiempo y credibilidad. La defensa no es desconfiar de todo: es que los importes, plazos y fechas salgan de una fuente, que una comprobación automática verifique lo que se pueda verificar y que una persona apruebe lo que implica un compromiso.
En MG Solutions construimos agentes de IA específicos para cada empresa, adaptados a tu forma de trabajar y a tus herramientas, no una plantilla genérica. Definimos contigo qué campos nunca se escriben a mano, qué comprobaciones se hacen solas y qué documentos pasan siempre por una persona.
Si quieres ver cómo encajaría en tu empresa, escríbenos y lo hablamos.