Sí, puede. Una base vectorial es el sitio donde un agente de IA guarda trozos de tus documentos para encontrarlos después, y si se monta sin controles de acceso, una búsqueda de un usuario puede devolver fragmentos de documentos de otro cliente. No ocurre por un ataque sofisticado, sino porque nadie se lo impidió al construirla. Por eso la pregunta que debe hacerse un gerente antes de usarla no es lo lista que es, sino a quién deja ver qué.
Una gran empresa que monta un buscador interno con IA tiene un equipo que decide los permisos de cada carpeta antes de cargar nada. En una pyme, es fácil volcar todos los documentos en la herramienta "para que lo encuentre todo" y descubrir después que lo encuentra todo para todos.
¿Qué es una base vectorial y por qué te debería importar?
Una base vectorial es un archivo especial donde cada fragmento de tus documentos (un párrafo de un contrato, una línea de un pedido, un correo) se guarda junto a una especie de "huella de significado". Gracias a esa huella, cuando alguien pregunta algo, el sistema encuentra los fragmentos que tratan de lo mismo aunque no usen las mismas palabras, y se los pasa al agente para que redacte la respuesta. Si quieres entender la idea con más detalle, la tienes en embeddings explicados para tu negocio.
Te importa porque esa base contiene copias de tus documentos, incluidos los que tienen datos personales o información comercial delicada. Y el sistema no distingue por sí solo entre un contrato de un cliente y el de otro: para él, todos son fragmentos con significado. Quien tiene que marcar la diferencia es quien la diseña.
¿Cómo se produce una filtración?
Hay cuatro caminos habituales, ninguno de los cuales necesita un delincuente:
- Todo en un mismo montón. Se cargan los documentos de todos los clientes en una única base, sin etiquetas. Cuando un cliente pregunta al agente por "mi contrato", la búsqueda puede traer fragmentos parecidos de otros contratos.
- Búsqueda que no sabe quién pregunta. Aunque los documentos estén bien separados en origen, la consulta no lleva la identidad de la persona. El sistema busca en todo y entrega lo más parecido.
- Permisos perdidos por el camino. En la carpeta original, solo dirección podía abrir un documento. Al copiar su contenido a la base vectorial, ese permiso no viaja con él, y cualquiera con acceso al buscador puede obtener fragmentos.
- Copias que no se borran. Eliminas un documento o un cliente te pide que borres sus datos, pero los fragmentos siguen en la base. Se pueden seguir encontrando aunque el original ya no exista.
Imagina una asesoría que carga en un buscador interno los expedientes de todos sus clientes. Un empleado que solo lleva la cartera de autónomos pregunta por "retenciones pendientes" y recibe, mezclado con las respuestas útiles, un fragmento de la documentación societaria de un cliente que no gestiona. Nadie ha hecho nada mal a propósito, y el daño es real.
¿Qué controles debe exigir el gerente antes de usarla?
Estas son las condiciones mínimas que debes pedir a quien implante el sistema, por escrito:
- Permisos por documento. Cada fragmento hereda los permisos del documento del que sale, y el sistema filtra los resultados antes de que lleguen al agente, no después. Quien no puede abrir el original, no recibe ni un trozo.
- Separación por cliente. Cada cliente (o cada área sensible, como recursos humanos) tiene su propio espacio, o como mínimo una etiqueta obligatoria que se aplica en todas las consultas. Una consulta sin esa etiqueta no se ejecuta.
- Identidad en cada consulta. El sistema siempre sabe quién pregunta y con qué derechos.
- Borrado coordinado. Cuando se elimina un documento o se atiende una petición de supresión de datos, desaparecen también sus fragmentos.
- Registro de consultas. Queda constancia de quién consultó qué, para poder revisar si pasó algo.
- Pruebas de fuga antes de lanzar. Alguien con un usuario limitado intenta, adrede, obtener información que no le corresponde. Si lo consigue, el sistema no está listo.
- Condiciones claras del proveedor: dónde se alojan los datos, quién puede acceder a ellos y qué contrato regula su tratamiento. Es un asunto de protección de datos que debe revisar tu asesor.
Preguntas que puedes hacer a tu proveedor
Sirven para saber si de verdad se han pensado estos puntos:
- ¿Cómo se aplican los permisos de cada documento dentro del buscador?
- ¿Qué impide que una consulta de un usuario devuelva información de otro cliente?
- ¿Cómo se borra un documento y todo lo que se derivó de él?
- ¿Me pueden enseñar el resultado de una prueba de fuga hecha con un usuario con pocos permisos?
- ¿Quién del proveedor puede ver mis fragmentos y para qué?
Si las respuestas son vagas ("el sistema es seguro", "la IA no devuelve eso"), conviene insistir. La seguridad no la decide la inteligencia artificial: la decide el sistema que está por debajo. Sobre la parte más general de permisos, puedes leer controles de acceso de IA: permisos y credenciales de agentes.
Qué hace el agente y qué sigue haciendo una persona
El agente busca, resume y responde con los documentos a los que su usuario tiene derecho. Lo que no debe hacer es decidir quién puede ver qué: eso lo establece una persona responsable, ya sea el gerente o quien lleve la protección de datos, y se revisa de forma periódica, sobre todo cuando entra o sale gente del equipo o cambia la relación con un cliente.
También conviene que una persona pruebe el sistema de vez en cuando con casos reales y que haya un procedimiento claro si se detecta que alguien ha visto algo que no debía. En caso de incidente con datos personales, hay obligaciones de comunicación que corresponde valorar con tu asesor. Para el marco general, tienes IA y RGPD: implanta inteligencia artificial cumpliendo la ley.
Conclusión
Una base vectorial es una herramienta muy útil para que un agente encuentre información dentro de tus documentos, pero puede mezclar lo de unos clientes con lo de otros si no se diseña con permisos desde el principio. Antes de usarla, exige permisos por documento, separación por cliente, borrado coordinado y pruebas que demuestren que no hay fugas.
En MG Solutions construimos agentes de IA específicos para cada empresa, adaptados a tu forma de trabajar y a tus herramientas, no una plantilla genérica.
Si quieres ver cómo encajaría en tu empresa, escríbenos y lo hablamos.