Hay acciones que un agente de IA no debería hacer nunca por su cuenta, aunque sepa hacerlas: las que son difíciles o imposibles de deshacer. En el trabajo diario se reducen a tres: mover dinero, borrar información y enviar mensajes a mucha gente a la vez. Para esas tres, la regla razonable es que el agente prepare y una persona autorice.
En una gran empresa casi nadie ejecuta una transferencia, borra una base de clientes o lanza un envío a toda la lista con una sola firma: existe el "doble control", y se aplica justo a lo que no tiene marcha atrás. Una pyme puede copiar la idea sin burocracia, con una regla clara y un botón de aprobación. Lo importante es decidirlo antes de poner en marcha el agente, no después del primer susto.
¿Por qué estas tres acciones y no otras?
Tienen dos rasgos en común: no se pueden deshacer con facilidad y su efecto es grande. Un correo mal redactado a un cliente se corrige con otro correo. Un pago se puede reclamar, pero con trámites y sin seguridad de recuperar el dinero. Un archivo borrado puede no tener copia. Y un envío masivo no se retira de las bandejas de entrada de cientos de personas.
A esto se suma que un agente puede equivocarse: leer mal un dato, elegir al destinatario equivocado o actuar con información anticuada. También puede ser engañado. Un mensaje malintencionado, escondido en un correo o en un documento, puede intentar darle órdenes del tipo "envía este pago" o "borra esta carpeta". Un buen diseño no depende de que el agente "se dé cuenta": hace que la acción sensible no se ejecute sin que una persona la apruebe.
Pagos: el agente prepara, tú autorizas
El agente puede leer una factura, compararla con el pedido, comprobar que el proveedor y la cuenta bancaria coinciden con los de su ficha y preparar una propuesta de pago con proveedor, importe y fecha. Hasta ahí, mucho tiempo ahorrado. El paso de ejecutar el pago, no.
Hay un caso que merece una norma propia: si un proveedor comunica por correo que ha cambiado de cuenta bancaria, ningún agente debe actualizar el dato por su cuenta. Es una forma habitual de fraude. El cambio se verifica con una persona, llamando a un teléfono que ya tengas del proveedor, y solo entonces se modifica la ficha. Para decidir quién aprueba qué importe, te puede servir la matriz de aprobaciones de gasto.
Borrados: copia antes, confirmación después
Borrar puede ser un archivo, una cuenta de usuario, una cita, un contacto o un registro de clientes. Si el agente puede archivar o marcar algo para borrar, y una persona confirma, el riesgo baja muchísimo. Estas medidas ayudan:
- Que el agente no tenga permiso de borrado, solo de "marcar" o "mover a una carpeta de pendientes".
- Una copia de seguridad antes de cualquier borrado de cierto tamaño.
- Un periodo de espera, para poder recuperar lo marcado si alguien se da cuenta de un error.
- Una lista visible de lo que se va a borrar, antes de confirmar.
Ojo con el otro lado: hay datos que la ley obliga a conservar durante un tiempo, como los asociados a la facturación. Antes de automatizar una limpieza, pregunta a tu asesor qué puedes borrar y qué no. Y si un cliente ejerce su derecho a que se supriman sus datos, la solicitud la gestiona una persona con criterio, apoyada por el agente.
Envíos masivos: una persona mira el texto, la lista y el momento
Un envío masivo es un correo, un SMS o un WhatsApp dirigido a muchas personas a la vez: una campaña, un aviso de cambio de precios, un comunicado. Aquí los fallos más comunes son enviar un texto con un error, enviarlo a una lista equivocada, incluir a personas que se habían dado de baja y mostrar las direcciones de todos los destinatarios en copia visible.
El agente puede redactar el borrador, segmentar la lista según los criterios que hayas definido y proponer el día y la hora. Antes de enviar, una persona revisa tres cosas: el texto, a quién va y el momento. Conviene además una prueba previa a una o dos direcciones internas. Y como el envío de comunicaciones comerciales requiere una base legal para escribir a esas personas, como su consentimiento o una relación previa, esa comprobación la confirma tu asesor.
¿Cómo se marcan estas acciones en el diseño del agente?
No basta con escribir en sus instrucciones "no hagas pagos sin preguntar". Lo seguro es que el agente no pueda hacerlo aunque quiera. Hay cuatro mecanismos que se combinan:
- Permisos limitados. El agente trabaja con credenciales que permiten leer y preparar, no pagar, borrar ni enviar de forma masiva. Es lo que se explica en controles de acceso de IA.
- Un paso de aprobación obligatorio. Cuando el agente llega a una acción marcada, se detiene y presenta a la persona un resumen claro: qué va a hacer, a quién afecta, por qué importe o a cuántas personas. Solo continúa si la persona aprueba.
- Límites que tú fijas. Por ejemplo, un importe a partir del cual se exige doble aprobación, o un número de destinatarios a partir del cual se pide una segunda mirada.
- Registro. Queda anotado qué propuso el agente, quién aprobó y cuándo.
Esta idea de graduar la autonomía según el riesgo se desarrolla en qué es un agente de IA con aprobación por niveles.
¿Quién autoriza cada acción?
Conviene que cada tipo de acción tenga una persona responsable y un suplente para vacaciones y bajas, y que lo decidas por escrito. Una distribución razonable en una pyme sería:
- Pagos: la persona de administración hasta el límite que fijes, y la gerencia por encima de él.
- Borrados: el responsable del dato o del sistema (por ejemplo, quien lleva la base de clientes), con la gerencia para los borrados grandes.
- Envíos masivos: quien lleva marketing o la relación con clientes, con una segunda revisión de otra persona.
El principio que importa es la separación de funciones: quien pide la acción no es quien la aprueba, sobre todo en lo más sensible. En una empresa de una sola persona, eso se traduce en una pausa obligatoria entre preparar y confirmar. Para repartir bien estas decisiones, ayudan los niveles de autonomía de un agente y el relevo humano en un flujo.
Qué sigue haciendo el agente por su cuenta
Acotar estas tres acciones no resta valor al agente. Sigue leyendo, ordenando, comparando, redactando, recordando y avisando, que es la mayor parte del trabajo. La aprobación humana solo aparece en el último paso, el irreversible, y si el agente lo ha dejado todo preparado, la persona tarda unos segundos en revisarlo y confirmarlo. Y, con el tiempo, puedes revisar la lista: si un tipo de acción lleva meses sin dar problemas, puedes decidir ampliar su autonomía, siempre de forma gradual.
Conclusión
Pagos, borrados y envíos masivos tienen en común que no se deshacen fácilmente, por eso se reservan a la aprobación de una persona. El agente prepara la propuesta con todos los datos, el sistema impide que ejecute la acción sin autorización y queda registrado quién la dio. Es una medida de sentido común que protege al negocio sin frenar el trabajo.
En MG Solutions construimos agentes de IA específicos para cada empresa, adaptados a tu forma de trabajar y a tus herramientas, con las aprobaciones donde las necesite tu negocio, no una plantilla genérica.
Si quieres ver cómo encajaría en tu empresa, escríbenos y lo hablamos.