Si tus documentos son pocos, cambian poco y los consultas de vez en cuando, te basta el contexto largo; si son muchos, cambian a menudo o se consultan todo el día, conviene la búsqueda en documentos. Cuál pagar depende de la tarea, no de cuál suene más moderno en la propuesta comercial.
Imagina a un empleado nuevo que debe contestar preguntas sobre los manuales de la empresa. Puede leerse el archivador entero cada vez que alguien le pregunta, o puede consultar el índice y leer solo las páginas que tratan del asunto. Lo primero es el contexto largo; lo segundo, la búsqueda en documentos, una técnica que en el sector se conoce por las siglas RAG. Las dos funcionan, pero no cuestan lo mismo ni fallan igual, y el gerente que firma debería saber cuál le están vendiendo.
¿Qué es el contexto largo y qué es la búsqueda en documentos?
El contexto largo consiste en darle al modelo de IA todos los documentos relevantes junto con cada pregunta. El modelo tiene un límite de texto que puede leer de una vez, y ese límite es cada vez mayor, pero sigue existiendo. La búsqueda en documentos funciona en dos tiempos: primero un buscador localiza los fragmentos que parecen tratar de la pregunta y después el modelo responde leyendo solo esos fragmentos. En ambos casos la respuesta se apoya en tus papeles y no en lo que el modelo recuerde de su entrenamiento. Si quieres el detalle técnico, está en qué es RAG en inteligencia artificial.
¿Cuál sale más barato de usar?
Depende de cuántas veces preguntes. Normalmente el proveedor de IA cobra según la cantidad de texto que el modelo lee y escribe. Con contexto largo, cada pregunta arrastra todos los documentos, así que pagas por leerlos enteros una y otra vez. Con búsqueda, cada pregunta lee solo unos pocos fragmentos. Para pocas consultas sueltas, el contexto largo es barato y sencillo, porque no hay nada que montar. Para muchas consultas al día o muchos documentos, su factura crece deprisa, mientras que la búsqueda exige una preparación inicial y un mantenimiento, pero deja un coste bajo por pregunta. Algunos proveedores ofrecen reutilizar a menor precio lo que ya han leído cuando los documentos no cambian: pregunta si el tuyo lo hace.
¿Cuál es más precisa?
Ninguna lo es siempre. Con contexto largo el modelo tiene todo delante, así que no se le queda un documento sin mirar por culpa de un buscador, pero cuanto más texto lee de golpe, más posibilidades hay de que pase por alto un detalle o mezcle dos documentos parecidos. Conviene probarlo con tus propios papeles y no fiarse de una demostración con ejemplos de otro. Con búsqueda, la precisión depende del buscador: si no localiza el fragmento correcto, el modelo responderá con lo que le llegue y puede quedarse corto o contestar algo incompleto. En los dos casos lo importante es que la respuesta indique de qué documento sale, para que una persona pueda comprobarla.
Comparación rápida
- Puesta en marcha. Contexto largo: casi inmediata, se entregan los documentos y se pregunta. Búsqueda: hay que preparar el índice que permite localizar fragmentos.
- Coste por pregunta. Contexto largo: crece con el volumen de documentos. Búsqueda: bajo y más estable.
- Actualizar un documento. Contexto largo: sustituyes el archivo y la siguiente consulta ya lo usa. Búsqueda: hay que actualizar el índice y comprobar que la versión antigua ha desaparecido.
- Volumen. Contexto largo: limitado por lo que cabe en una lectura. Búsqueda: apta para archivos mucho mayores.
- Quién ve qué. Contexto largo: hay que decidir qué documentos entran en cada consulta según quién pregunta. Búsqueda: se puede filtrar antes de buscar, si el diseño lo contempla.
¿Qué conviene según la tarea?
Estos ejemplos te sirven de guía:
- Revisar un contrato concreto o comparar dos ofertas. Pocos documentos y uso puntual: contexto largo.
- Atender a clientes con el catálogo, las condiciones y las preguntas frecuentes. Muchos documentos, que cambian, con preguntas constantes: búsqueda.
- Un manual de procedimientos que se consulta a diario. Búsqueda si es extenso o se actualiza; contexto largo si es breve y estable.
- Resumir una vez el informe anual. Contexto largo.
- Un archivo enorme del que a veces hay que leer un documento entero. Una combinación: la búsqueda localiza y el contexto largo permite leer completos los documentos localizados. Muchos sistemas serios mezclan las dos.
Si te interesa saber cómo se localizan los fragmentos, embeddings explicados para tu negocio lo cuenta sin matemáticas, y cómo funciona la memoria de un agente de IA pone las dos ideas en el contexto de un agente completo.
Qué preguntar a quien te lo vende
Antes de aceptar una propuesta, pide respuesta a estas preguntas, por escrito si es posible:
- ¿Cuántos documentos hay, de cuánto tamaño y con qué frecuencia cambian?
- ¿Cuántas preguntas al día se esperan y cuánto costará cada mes?
- ¿Cómo crece la factura si el uso se duplica?
- ¿Cómo se actualiza un documento y cuánto tarda en notarse en las respuestas?
- ¿Cómo comprobaremos de qué documento sale cada respuesta?
- ¿Qué documentos con datos personales entran y quién podrá acceder a ellos?
Quien conozca bien su propuesta responderá sin rodeos. Si la contestación es "ya veremos", desconfía.
Qué hace el agente y qué sigue haciendo una persona
- El agente localiza y lee los documentos, redacta la respuesta y, si se diseña así, indica de qué papel sale cada dato.
- Una persona decide qué documentos son la fuente oficial y cuál es la versión vigente, retira los obsoletos y revisa las respuestas importantes antes de actuar. En temas legales, fiscales o financieros, la última palabra es de un profesional: el agente prepara y organiza, no asesora.
Qué cuidar
- Documentos viejos. Ni el contexto largo ni la búsqueda distinguen por sí solos cuál es la versión buena. Si dos documentos se contradicen, el agente puede citar el equivocado.
- Datos personales. Si entran contratos, nóminas o fichas de clientes, el acceso debe limitarse y registrarse, y el proveedor debe cumplir lo que exige la normativa de protección de datos.
- Pruebas con tus casos. Antes de pagar, haz que respondan veinte preguntas reales, incluidas las incómodas, y mira cuántas aciertan.
- Los límites. Ninguna de las dos técnicas hace que el modelo "aprenda" tu empresa: solo le pone delante tus papeles en el momento de contestar.
Conclusión
La elección entre contexto largo y búsqueda en documentos no es una cuestión de moda sino de números sencillos: cuántos documentos hay, cuánto cambian y cuántas veces se pregunta. Con pocos documentos y poco uso, lo simple es lo mejor; con mucho de todo, la búsqueda se paga sola. Y en ambos casos, la última palabra sobre lo importante es de una persona.
En MG Solutions construimos agentes de IA específicos para cada empresa, adaptados a tu forma de trabajar y a tus herramientas, no una plantilla genérica. Esa elección se hace mirando tus documentos y tu volumen de consultas, no un catálogo.
Si quieres ver cómo encajaría en tu empresa, escríbenos y lo hablamos.