Un agente redacta la respuesta a un cliente con absoluta seguridad y se equivoca en la fecha de entrega. O resume un contrato y se le escapa una cláusula. No es que la IA sea poco de fiar sin más: es que, como cualquier empleado nuevo, necesita que alguien compruebe su trabajo hasta que se sabe dónde acierta y dónde falla.
Las empresas grandes no publican, no envían ni firman nada sin pasar por una revisión. Tienen circuitos de calidad en los que quien produce no es quien aprueba. Esa idea, aplicada a un agente de IA, cabe en una sola hoja de papel. No hace falta un departamento de calidad: hace falta decidir de antemano qué se mira, quién lo mira y qué se hace con los fallos.
Por qué un agente también necesita un segundo par de ojos
Un agente escribe con fluidez incluso cuando se equivoca. Un error suyo no suele parecer un error: suena convincente, está bien redactado y llega con el mismo tono que un acierto. Por eso no sirve fiarse de la «sensación» de que el texto está bien.
Tampoco se trata de revisarlo todo con lupa. Si una persona tuviera que repasar cada línea de cada tarea, el agente no ahorraría tiempo. La clave está en dar a cada tarea el nivel de control que merece su riesgo.
Tres niveles de control
Nivel 1. Lo revisa siempre una persona antes de que salga. Se reserva para lo que tiene consecuencias si falla:
- Todo lo que llega a un cliente con un compromiso: precios, plazos, condiciones.
- Todo lo que incluye datos personales de alguien, sobre todo si son delicados.
- Comunicaciones sobre reclamaciones, impagos o contratos.
- Cualquier texto con implicaciones legales, fiscales o laborales, que además ve el profesional correspondiente.
Nivel 2. Se contrasta con la fuente. Para todo lo que lleva datos comprobables:
- Cifras, fechas, importes, nombres propios, referencias de pedido.
- La regla es simple: todo dato que el agente escribe debe poder rastrearse hasta un documento o un registro. Si no hay de dónde sacarlo, se marca y no se da por bueno.
- Se puede pedir al agente que cite de dónde ha sacado cada dato, y la persona comprueba una parte de esas citas con el documento delante.
Nivel 3. Se comprueba por muestreo. Para las tareas rutinarias y de poco riesgo:
- Clasificar correos, etiquetar facturas, preparar resúmenes internos.
- Cada semana, una persona mira una parte elegida al azar. Si aparecen fallos, se revisa más; si la tarea va bien durante un tiempo, se mantiene el muestreo.
- Si un tipo de tarea falla con frecuencia, sube al nivel 2 hasta que se corrija.
Cómo decidir en qué nivel va cada tarea
Dos preguntas bastan:
- ¿Qué pasa si esto sale mal? Si el daño es una molestia interna, nivel 3. Si se pierde dinero o confianza de un cliente, nivel 1 o 2.
- ¿Se puede deshacer? Un borrador que nadie ha visto se corrige sin consecuencias. Un correo enviado o un pago hecho, no.
Al empezar, conviene ser más estricto de lo necesario y aflojar con el tiempo, cuando hayas visto cómo trabaja el agente en tu empresa. Es mucho mejor relajar un control que descubrir tarde que faltaba.
El cuaderno de errores
Cada vez que alguien encuentra un fallo, lo anota. No hace falta un programa: una hoja de cálculo con cinco columnas sirve.
- Fecha y tarea donde apareció el error.
- Qué dijo el agente y qué era lo correcto.
- Tipo de fallo: dato inventado, dato mal leído, instrucción mal entendida, tono inadecuado, algo que faltaba.
- Qué se hizo: se corrigió a mano, se ajustó al agente, se cambió el nivel de control.
Este cuaderno tiene tres usos:
- Corregir al agente. Cada error suele tener una solución concreta: darle el documento con el dato correcto, añadirle una regla («nunca indiques plazos sin consultar el calendario») o un ejemplo de cómo se hace bien. Conviene que quien implanta el agente te ayude a hacer ese ajuste, para que no dependa de que tú sepas de tecnología.
- Ver patrones. Si los errores se repiten en un mismo tipo de tarea, sabes dónde vigilar más.
- Decidir cuándo aflojar. Si una tarea pasa varias semanas sin fallos, puedes bajarla de nivel con criterio, no por intuición.
Señales de alarma
Hay cosas que deben hacerte sospechar aunque el texto parezca perfecto:
- Seguridad rotunda sin cita de fuente. Una afirmación firme que no sabe decir de dónde sale.
- Datos demasiado redondos o demasiado convenientes, que encajan justo con lo que esperabas oír.
- Nombres, referencias o códigos que no encuentras en tus registros.
- Un tono que no es el tuyo: promesas, urgencias o fórmulas que tú no usarías.
- Respuestas a algo que no se le preguntó, o que ignoran una parte de lo que sí se pidió.
Quién revisa y cómo evitar que el control se vuelva un trámite
- Que revise quien conoce el tema. Si una persona no entiende lo que lee, dará el visto bueno a ciegas. Un texto sobre facturación lo revisa alguien que sepa de facturación.
- Pocas comprobaciones, bien hechas. Si hay que revisar demasiado, el control degenera en un «vale, vale» automático. Es preferible un control estrecho y real a uno amplio y de mentira.
- Cuatro preguntas antes de dar el visto bueno: ¿los datos coinciden con la fuente?, ¿promete algo que no podemos cumplir?, ¿suena a nosotros?, ¿hay datos personales que no deberían estar?
- Separar quien produce de quien aprueba, siempre que sea posible. Si la misma persona pide y revisa, tiende a ver lo que espera ver.
Por dónde empezar
Haz una lista de las cinco tareas que más le encargarías a un agente y colócalas en uno de los tres niveles. Abre el cuaderno de errores desde el primer día, aunque sea una hoja casi vacía. En un par de semanas, con los primeros fallos anotados, tendrás información real sobre el agente en lugar de impresiones.
Si quieres seguir leyendo, cómo evaluar la calidad de las respuestas de una IA, alucinaciones de la IA: qué son y cómo evitarlas y con qué frecuencia revisar el trabajo de tus agentes completan este enfoque.
Conclusión
Usar un agente de IA no significa dejar de revisar, sino revisar con método: una persona siempre en lo que tiene consecuencias, contraste con la fuente en lo que lleva datos y muestreo en lo rutinario. Y un cuaderno de errores para que cada fallo sirva para mejorar al agente.
En MG Solutions construimos agentes de IA específicos para cada empresa, adaptados a tu forma de trabajar y a tus herramientas, no una plantilla genérica.
Si quieres ver cómo encajaría en tu empresa, escríbenos y lo hablamos.