Hay una pregunta que casi todos los responsables de empresa hacen antes de implantar un agente de IA, y suele formularse con cierta desconfianza: "¿y si le preguntan algo que no sabe?". Es una pregunta legítima, y la respuesta dice más sobre la calidad del agente que casi cualquier otra cosa. Lo que ocurre cuando un agente de IA no sabe la respuesta es, precisamente, el mejor indicador de si ese agente está bien diseñado o no.
En este artículo te explicamos cómo debería comportarse un agente ante la incertidumbre, por qué reconocer los límites es una virtud y no una debilidad, y qué señales indican que un agente está fallando en este punto concreto.
El comportamiento correcto: reconocer, no inventar
Un agente de IA bien configurado, cuando se encuentra ante una pregunta para la que no tiene información fiable, hace una de estas dos cosas: pide más contexto al usuario para intentar entender mejor la consulta, o escala el caso a una persona con la información recopilada hasta ese momento. Lo que no debería hacer nunca es inventar una respuesta plausible para no dejar la conversación sin contestar.
Este comportamiento se llama a veces "alucinación" cuando falla: el sistema genera una respuesta que suena correcta pero no está basada en datos reales de tu empresa. Es uno de los riesgos más conocidos de la IA generativa mal implantada, y suele estar directamente relacionado con cómo se ha desarrollado el agente desde el principio, algo que tratamos en desarrollo de agentes de IA.
La diferencia entre un buen agente y uno mal configurado no está en si comete errores —todos los sistemas los cometen alguna vez—, sino en qué hace cuando detecta que no tiene la información necesaria para responder con seguridad.
Por qué esto depende directamente del contexto disponible
Que un agente "sepa" o "no sepa" algo no es una cuestión de inteligencia general, sino de si tiene acceso, en ese momento concreto, a la información necesaria para responder. Un agente conectado a tu catálogo de producto sabrá el stock disponible; uno que no tiene esa conexión, no, por muy avanzado que sea el modelo de lenguaje que lo sostiene.
Esto es lo que técnicamente llamamos el contexto del agente: el conjunto de información relevante disponible en el momento de generar una respuesta. Cuando el contexto es insuficiente, la respuesta correcta del agente es admitirlo, no rellenar el hueco con una suposición. Puedes profundizar en cómo se construye ese contexto en qué es el contexto en un agente de IA.
Un ejemplo con datos
En una implantación reciente para una empresa de servicios profesionales, medimos durante el primer mes cómo se distribuían las respuestas del agente de atención a clientes:
- El 71% de las consultas se resolvieron directamente con información disponible en su base de conocimiento.
- El 19% requirió pedir una aclaración adicional al cliente antes de poder responder con seguridad.
- El 10% se escaló directamente a una persona, porque el agente detectó que no tenía información suficiente o que el caso requería una decisión con criterio humano, como una excepción comercial.
Ese 10% no es un fallo del sistema: es exactamente el comportamiento que se busca. Un agente que hubiera intentado responder ese 10% con una suposición habría generado, con toda probabilidad, algún error costoso: una promesa de plazo incorrecta, una condición mal explicada, o una respuesta que contradice la política real de la empresa.
Cómo diseñar bien ese escalado
Que un agente escale un caso a una persona no sirve de mucho si lo hace sin contexto. El valor real está en cómo se produce ese traspaso. Un buen diseño de escalado incluye:
- Resumen de la conversación hasta ese punto, para que la persona no tenga que empezar de cero ni pedirle al cliente que repita lo que ya ha explicado.
- Motivo específico de la escalada: no es lo mismo "no sé la respuesta" que "esto requiere aprobar una excepción de precio", y cada motivo debería dirigirse a la persona adecuada.
- Prioridad asignada según el tipo de caso, de forma que una duda urgente no espere en la misma cola que una consulta informativa sin urgencia.
- Registro del caso para que, si esta situación se repite, el equipo pueda decidir si merece la pena ampliar la base de conocimiento del agente para que la resuelva por sí mismo en el futuro.
Este último punto es clave: cada escalada bien documentada es una oportunidad de mejora, no solo una excepción puntual.
Cuándo el escalado es obligatorio, más allá de la incertidumbre técnica
Hay situaciones en las que un agente debe escalar a una persona no porque no sepa la respuesta, sino porque no debería responder por sí solo aunque técnicamente pudiera. Esto incluye, entre otros casos:
- Consultas relacionadas con datos personales sensibles o solicitudes de ejercicio de derechos bajo el RGPD.
- Quejas formales o situaciones con riesgo de conflicto legal.
- Decisiones que impliquen una excepción a las condiciones estándar de la empresa, como descuentos fuera de política.
- Cualquier caso donde el propio cliente pida explícitamente hablar con una persona.
Diseñar bien estos límites es tan importante como entrenar al agente para responder correctamente, y es una de las razones por las que conviene que un agente supervisor revise ciertos flujos antes de que lleguen al cliente final, algo que explicamos en qué es un agente supervisor que coordina otros agentes.
Señales de que un agente está fallando en este punto
Al revisar el funcionamiento de un agente ya implantado, hay señales claras de que el manejo de la incertidumbre no está bien calibrado:
- El agente da respuestas con seguridad aparente sobre temas donde después se comprueba que la información era incorrecta o inventada.
- Prácticamente nunca escala nada a una persona, lo cual, contra lo que parece, no es buena señal: sugiere que está "forzando" respuestas en lugar de reconocer límites.
- Escala casi todo, lo que indica que su base de conocimiento es insuficiente y necesita ampliarse.
- Los clientes tienen que corregir al agente con frecuencia sobre datos objetivos, como precios o plazos.
El objetivo no es un agente que nunca escale nada —eso sería sospechoso—, sino uno que escale exactamente lo que debe escalar, ni más ni menos.
Conclusión
Que un agente de IA no sepa la respuesta y lo reconozca, pidiendo más información o escalando el caso a una persona, no es un fallo del sistema: es la señal más clara de que está bien diseñado. El verdadero riesgo no es la incertidumbre, sino un agente que la disfraza con una respuesta inventada. Cuidar cómo se gestiona ese límite es tan importante como entrenar al agente para lo que sí sabe resolver.
Si quieres revisar cómo se comporta tu atención actual ante las preguntas que no tienen respuesta clara, en MG Solutions te ofrecemos un diagnóstico gratuito y sin compromiso. Solicítalo aquí.