"Otros clientes también compraron", "recomendado para ti", "productos similares": los sistemas de recomendación llevan más de una década en el ecommerce, mucho antes de que se hablara de IA Act o de regulación europea de la inteligencia artificial. Cuando una tienda online que ya usa uno de estos sistemas empieza a leer sobre el AI Act, la duda es razonable: ¿está usando, sin saberlo, un sistema de "alto riesgo" que le va a exigir una montaña de obligaciones nuevas? En la mayoría de los casos, no. Pero conviene entender por qué, y qué matiz puede cambiar esa clasificación.
Este artículo tiene un propósito divulgativo y no sustituye asesoría legal. La clasificación de riesgo de un sistema concreto depende de sus características técnicas exactas y de cómo se usa en la práctica; ante cualquier duda real, consulta con un especialista en la materia.
Cómo clasifica el riesgo el AI Act, en resumen
El AI Act no trata a todos los sistemas de IA por igual: establece niveles de riesgo (inaceptable, alto, limitado y mínimo) según el impacto potencial que puede tener el sistema sobre las personas. Los sistemas de riesgo alto son los que pueden afectar a derechos fundamentales o a la seguridad de forma significativa (por ejemplo, sistemas usados en selección de personal, acceso a crédito o servicios esenciales). Los de riesgo limitado son aquellos cuyo principal requisito es la transparencia: la persona debe poder saber que está interactuando con un sistema de IA o recibiendo un resultado generado por uno, sin que eso implique el nivel de exigencia documental de los sistemas de alto riesgo.
Por qué un recomendador de productos suele caer en riesgo limitado
Un sistema que sugiere productos a un cliente de una tienda online, basándose en su historial de navegación o en patrones de compra de otros clientes similares, normalmente no decide nada que afecte a un derecho fundamental de la persona: no decide si puede acceder a un crédito, ni si consigue un empleo, ni si recibe un servicio esencial. Decide qué producto se le muestra primero en una lista, entre opciones que en cualquier caso están disponibles para el cliente si decide buscarlas él mismo. Ese perfil de impacto limitado es lo que sitúa a la mayoría de recomendadores de retail en la categoría de riesgo limitado, con una obligación principal centrada en la transparencia hacia el usuario más que en una evaluación de conformidad exhaustiva.
Para entender mejor cómo funciona técnicamente este tipo de sistema, puede ayudar revisar qué es un modelo de recomendación, que explica la lógica de fondo sin entrar en la parte normativa.
Qué puede cambiar esa clasificación
La clasificación de riesgo limitado no es automática ni permanente para cualquier sistema que se llame "recomendador". Hay usos que se alejan del recomendador clásico de ecommerce y que merecen una revisión más cuidadosa:
- Recomendación de precios personalizados por cliente: si el sistema no solo recomienda qué producto mostrar, sino que ajusta el precio mostrado a cada persona según su perfil, entra en un terreno distinto, más cercano a la personalización de condiciones comerciales que a la simple sugerencia de producto, y conviene revisarlo con más detalle.
- Recomendación en sectores con impacto especial, como productos financieros, seguros o servicios de salud vendidos online, donde la recomendación puede influir en decisiones de mayor calado que la elección de un producto de consumo habitual.
- Sistemas que combinan recomendación con decisiones de crédito o financiación (por ejemplo, ofrecer un plan de pago aplazado calculado de forma automática según el perfil del cliente), donde el componente de decisión financiera puede pesar más que el componente de mera sugerencia de producto.
La pregunta que ayuda a distinguir un caso de otro no es "¿usa IA?", sino "¿qué pasa si la recomendación es la equivocada para esta persona en concreto?". Si la respuesta es "ve un producto que le interesa menos", el riesgo es limitado. Si la respuesta empieza a acercarse a "recibe condiciones económicas peores que otro cliente en su misma situación", conviene mirarlo con más cuidado.
La obligación de transparencia, en la práctica
Aunque el nivel de exigencia sea menor que en los sistemas de alto riesgo, la obligación de transparencia no es opcional. En la práctica, para un recomendador de retail esto suele traducirse en dejar claro, de forma accesible y sin necesidad de que el cliente tenga que buscarlo, que las sugerencias de producto están generadas por un sistema automatizado basado en su comportamiento de navegación o compra, normalmente dentro de la política de privacidad o cerca del propio módulo de recomendación.
Qué puede hacer ya una tienda online
- Identificar qué sistemas de recomendación o personalización usa realmente, más allá del recomendador de producto genérico: motores de precios dinámicos, personalización de ofertas, scoring de clientes.
- Revisar si alguno de esos sistemas toca precio, condiciones de pago o financiación, no solo qué producto se muestra.
- Verificar que la información de transparencia sobre el uso de IA es clara y accesible, no enterrada en un documento legal que nadie lee.
- Consultar con un asesor especializado ante cualquier sistema que combine recomendación con decisiones económicas personalizadas.
Este ejercicio de revisión encaja dentro del enfoque general que planteamos en el EU AI Act explicado para pymes, aplicado aquí específicamente al caso de los sistemas de recomendación en retail.
Conclusión
La mayoría de sistemas de recomendación de producto en retail caen en la categoría de riesgo limitado del AI Act, con la transparencia hacia el cliente como obligación principal. El matiz que cambia esa clasificación no es la tecnología usada, sino si el sistema empieza a influir en condiciones económicas personalizadas, precio o financiación, más allá de la simple sugerencia de qué producto mostrar antes.
En MG Solutions ayudamos a negocios de retail y ecommerce a implementar sistemas de recomendación e IA conversacional con las garantías de transparencia adecuadas desde el diseño. Reserva tu primera reunión si quieres revisar tu caso concreto.