Hay dos conceptos que se llaman igual y significan cosas distintas, y confundirlos lleva a hacerse la pregunta equivocada al proveedor. Ya hemos explicado en qué es un sandbox de IA y en cómo diseñar un entorno sandbox para probar un agente antes de producción el sandbox como entorno de pruebas: una réplica de tus sistemas donde se valida el comportamiento de un agente antes de dejarlo trabajar con datos reales. Este artículo habla de un concepto distinto que también se llama sandbox: el que aísla el código que un agente ejecuta en tiempo real, mientras ya está trabajando, sea en fase de pruebas o en producción.
Qué significa, exactamente, que un agente "ejecute código"
Algunos agentes de IA no se limitan a generar texto: tienen la capacidad de escribir y ejecutar código de verdad, normalmente para resolver tareas que un modelo de lenguaje no puede hacer bien solo con lenguaje natural, como un cálculo matemático complejo, procesar un archivo grande, generar un gráfico a partir de datos o transformar un documento de un formato a otro. Cuando el agente decide que necesita ese paso, genera un fragmento de código (típicamente en Python) y lo manda a ejecutar. El resultado de esa ejecución vuelve al agente, que lo usa para completar su respuesta.
El problema es evidente en cuanto se piensa un momento: ese código lo ha escrito un modelo de IA, sin que una persona lo haya revisado línea por línea antes de que se ejecute. Ejecutarlo directamente en el mismo servidor donde vive tu aplicación, con acceso a tus archivos y tu red, sería como dejar que cualquiera que escribe un comentario en tu web ejecute comandos en tu ordenador. Ahí es donde entra el sandbox de ejecución de código.
Qué es, técnicamente, este tipo de sandbox
Es un entorno de ejecución aislado y desechable —normalmente un contenedor o una máquina virtual ligera creada solo para esa tarea— donde el código que genera el agente se ejecuta sin acceso a los sistemas reales de la empresa, sin acceso a internet salvo que se le conceda explícitamente, con límites estrictos de tiempo de ejecución y de recursos de cómputo, y que se destruye por completo en cuanto termina la tarea. Si el código tiene un error, entra en un bucle infinito o intenta hacer algo que no debería, el daño queda contenido dentro de ese entorno desechable: no llega a tocar ni un archivo real, ni una base de datos real, ni la red de la empresa.
Es, en esencia, el mismo principio de seguridad que usa cualquier navegador para ejecutar el código de una página web que visitas sin que ese código pueda tocar los archivos de tu ordenador, aplicado ahora al código que un agente de IA decide escribir y ejecutar por su cuenta.
Por qué esto no es lo mismo que "probar el agente antes de producción"
La diferencia clave con el sandbox de pruebas que ya hemos tratado en otros artículos es el momento y el propósito. Un entorno de pruebas antes de producción existe para validar, con datos simulados, cómo se comporta un agente antes de dejarlo trabajar de verdad, y deja de usarse activamente una vez que el sistema pasa a producción. El sandbox de ejecución de código, en cambio, funciona de forma continua, cada vez que el agente decide ejecutar código, tanto durante las pruebas como ya en producción, con clientes reales. No es una fase del proyecto: es una pieza permanente de la arquitectura de seguridad, mientras el agente siga teniendo esa capacidad.
Qué preguntar a tu proveedor si tu agente va a ejecutar código
Si estás valorando un agente de IA que necesita generar informes, analizar archivos que suben tus clientes o hacer cálculos complejos, conviene preguntar directamente:
- ¿Dónde se ejecuta el código que genera el agente? Si la respuesta es "en el mismo servidor de la aplicación", sin más matices, es una señal de alarma seria.
- ¿Ese entorno tiene acceso a nuestros sistemas o a internet, o está completamente aislado salvo por lo estrictamente necesario para la tarea?
- ¿Qué límites de tiempo y de recursos tiene la ejecución, para evitar que un código mal escrito consuma recursos de forma descontrolada?
- ¿Qué pasa con los datos que se procesan dentro de ese entorno una vez termina la tarea? Deberían eliminarse, no quedar almacenados en un entorno que ya cumplió su función.
Por qué esto importa más de lo que parece a primera vista
Cuanta más autonomía tiene un agente —cuanto más se acerca a lo que describimos en qué es un agente de IA—, más relevante se vuelve esta capa de aislamiento, porque un agente con capacidad de ejecutar código y sin sandbox no es solo un riesgo de que se equivoque: es una superficie de ataque real si alguien consigue manipular al agente para que genere y ejecute código malicioso, algo que ya se ha documentado en sistemas mal protegidos. El sandbox de ejecución de código no es una medida exótica reservada a laboratorios de investigación: es una condición mínima de seguridad para cualquier agente que trabaje con esa capacidad, tan básica como cifrar una contraseña.
Conclusión
Un sandbox de ejecución de código es el entorno aislado, temporal y sin acceso a tus sistemas reales donde un agente de IA ejecuta el código que genera por su cuenta, de forma continua mientras trabaja, no solo durante una fase de pruebas. Es un concepto distinto —y complementario— al del sandbox como entorno de pruebas antes de producción, y una de las primeras cosas que conviene verificar cuando un agente tiene esta capacidad.
En MG Solutions revisamos este tipo de detalles de arquitectura antes de poner en marcha cualquier agente para nuestros clientes. Si quieres que evaluemos la seguridad de tu proyecto de IA, reserva una primera reunión.