Si un agente de IA se equivoca y un cliente reclama, tu póliza puede cubrirlo o no, y la única forma de saberlo es preguntar por escrito a tu corredor o a tu aseguradora describiendo el caso. Una póliza de responsabilidad civil cubre, por lo general, los daños que causas a terceros en el ejercicio de tu actividad. Pero cada contrato tiene sus condiciones, sus exclusiones y sus límites, y es posible que el tuyo se redactara antes de que existieran los agentes de IA y no los mencione.
Una gran empresa tiene un departamento de riesgos que revisa cada herramienta nueva con su corredor antes de ponerla en marcha. En una pyme lo habitual es lo contrario: el agente entra poco a poco, se prueba con consultas de clientes, funciona bien y nadie vuelve a mirar la póliza. Hacer la consulta no cuesta dinero, y es mucho mejor plantearla ahora que el día en que llega una reclamación.
Por qué no hay una respuesta válida para todos
Que el error lo cometa un programa en lugar de un empleado no cambia, de entrada, que el negocio es el tuyo. Lo que cambia es dónde encaja el daño dentro de los distintos seguros que puedes tener. Conviene separar tres situaciones:
- El error daña a un cliente o a un tercero. Un presupuesto con un precio equivocado que aceptas respetar, una fecha de entrega prometida que no se cumple, un consejo incorrecto en un asunto donde el cliente decide por lo que le dijiste. Es el terreno de la responsabilidad civil, y puede ser general o profesional según tu actividad.
- El error expone datos personales. El agente envía un documento a la persona equivocada o responde con información de otro cliente. Aquí entran el RGPD y, si la tienes, la póliza de ciberriesgos, que se rige por sus propias condiciones. Lo tratamos con más detalle en ¿es seguro darle mis datos a un agente de IA?.
- El error te perjudica a ti. El agente borra archivos, duplica un pago o cancela pedidos que no debía. Es un daño propio, y puede quedar cubierto por otro tipo de póliza o por ninguna.
Además, la póliza se firmó para una actividad declarada. Si el agente hace tareas que antes no existían, como atender clientes a cualquier hora o preparar ofertas de forma autónoma, tiene sentido preguntar si eso altera la actividad asegurada.
¿Qué debes preguntar a tu corredor o aseguradora?
Lleva las preguntas por escrito y pide la respuesta también por escrito, porque lo que cuenta es lo que firma la aseguradora, no lo que se comenta en una llamada. Una conversación informal con el comercial sirve para orientarte, pero no te protege el día de la reclamación. Estas son las preguntas que merece la pena hacer:
- ¿Mi póliza de responsabilidad civil cubre daños causados por un error de un sistema automatizado o de un agente de IA que actúa en mi nombre?
- ¿Hay alguna exclusión, expresa o por la forma en que se define mi actividad, que pueda afectar a estos casos?
- ¿Cubre la póliza las reclamaciones que se derivan de un error del proveedor del agente, y qué pasa con mi derecho a reclamarle a él después?
- ¿Qué límite de indemnización y qué franquicia se aplican, y son distintos para daños por datos personales?
- ¿Tengo que comunicar el uso del agente como un cambio en mi actividad o en mi riesgo?
- ¿Qué plazo y qué procedimiento hay que seguir para avisar de un incidente?
Si la respuesta es ambigua, insiste en que se aclare o en que se añada por escrito una condición. Si es negativa, al menos sabes cuánto riesgo asumes tú y puedes decidir si compensa limitarlo con controles internos o con un seguro adicional.
¿Qué conviene documentar antes de hacer la consulta?
El corredor te responderá mejor cuanto mejor entienda qué hace el agente. Prepara una ficha de una o dos páginas con estos puntos:
- Qué tareas hace el agente. Escritas en llano: "contesta consultas de horarios y pedidos", "prepara borradores de presupuesto".
- Qué puede hacer solo y qué necesita aprobación. Por ejemplo, el agente propone el presupuesto, pero lo envía una persona.
- A qué datos accede. Si toca datos de clientes, de empleados o datos de salud, dilo.
- Quién lo ha construido y qué dice el contrato. Incluye lo que pacta el proveedor sobre su propia responsabilidad, que desarrollamos en límite de responsabilidad en el contrato de un proveedor de IA.
- Qué registros se guardan. Si hay un historial de qué hizo el agente y cuándo, el análisis de cualquier incidente será mucho más sencillo.
- Cómo se revisa. Quién mira los resultados, con qué frecuencia y qué ocurre cuando algo no cuadra.
Este trabajo de ordenar la información es precisamente lo que un agente puede ayudarte a preparar: recopilar tareas, listar los permisos que tiene y resumir el historial de actividad. Lo que no puede hacer es decidir si tu cobertura es suficiente. Eso lo valoras tú con el asesoramiento de quien te vende el seguro y, si el caso lo merece, con tu abogado.
Lo que ninguna póliza sustituye
Un seguro repara un daño cuando ya ha ocurrido, no impide que ocurra. Y una aseguradora esperará que hayas tomado precauciones razonables. Por eso, además de preguntar, conviene tener ordenados los controles que reducen la probabilidad de que el error llegue al cliente:
- Revisión humana antes de enviar cualquier cosa de alto impacto: ofertas con importes relevantes, comunicaciones con implicaciones legales o respuestas que afecten a la salud o a las finanzas de una persona.
- Límites claros de lo que el agente puede prometer. Si no tiene autoridad para cerrar precios o plazos, no hay reclamación que se derive de eso.
- Un procedimiento para parar el agente y avisar al corredor cuando se detecta un error con consecuencias.
Sobre cómo montar esa supervisión puedes leer cómo mantener supervisión humana en procesos automatizados. Y, si dudas de cómo se reparte la culpa entre tu empresa y quien te entregó el agente, hay un análisis en cómo repartir la responsabilidad legal con tu proveedor de IA.
Una nota de honestidad: al responder al cuestionario de la aseguradora, describe el agente tal como funciona. Ocultar su uso o quitarle importancia puede poner en riesgo la cobertura justo cuando más la necesitas.
Conclusión
La pregunta de si tu seguro cubre los errores de un agente de IA no se resuelve con una regla general, sino con tu póliza delante y una consulta por escrito a quien te la vende. Cuanto más claro tengas qué hace el agente, qué decide solo y qué revisa una persona, más precisa será la respuesta y mejores las decisiones que tomes después.
En MG Solutions construimos agentes de IA específicos para cada empresa, adaptados a tu forma de trabajar y a tus herramientas, no una plantilla genérica, y con los registros y los límites claros que facilitan esa conversación con tu aseguradora.
Si quieres ver cómo encajaría en tu empresa, escríbenos y lo hablamos.