Una empresa que incorpora un sistema de IA para filtrar candidaturas suele hacerlo buscando rapidez: procesar cientos de currículums que antes tardaban días en revisarse a mano. Lo que muchas veces no se plantea con el mismo cuidado es una pregunta distinta: ¿trata ese sistema con la misma probabilidad de avanzar a un candidato y a una candidata con perfiles equivalentes, o reproduce, sin que nadie lo haya decidido así, desequilibrios que ya existían en las contrataciones anteriores de la empresa?
Aviso importante antes de continuar: este artículo tiene carácter divulgativo y no constituye asesoría legal. La normativa de igualdad y no discriminación en procesos de selección debe valorarse con un abogado laboralista o una asesoría especializada, que pueda revisar el caso concreto de tu empresa, su tamaño y su sector.
Por qué la selección de personal es un punto de atención particular
De todos los usos de la IA en la empresa, la selección de personal es uno de los que trata más directamente con derechos de las personas: decide, o ayuda a decidir, quién tiene una oportunidad de acceder a un empleo y quién queda descartado antes incluso de una primera entrevista. Esto lo distingue de otros usos de la IA donde un error tiene un coste económico, pero no afecta al acceso de una persona a un derecho tan relevante como el empleo.
Además, la selección de personal es, por naturaleza, un proceso que se apoya en datos históricos: currículums de contrataciones pasadas, perfiles que "funcionaron bien" en el puesto, patrones de qué tipo de candidato solía avanzar en cada fase. Si esos datos históricos reflejan una plantilla desequilibrada en según qué puestos —algo que en algunos sectores y categorías profesionales sigue siendo habitual—, un sistema entrenado con ellos puede aprender ese desequilibrio como si fuera un criterio de éxito válido, sin que exista ninguna intención discriminatoria por parte de quien lo implantó.
En qué fases del proceso puede aparecer el sesgo de género
Cribado inicial de currículums. Es la fase donde más se usa la IA hoy, normalmente para descartar candidaturas que no cumplen requisitos mínimos o para priorizar las que más encajan con el puesto. Si el modelo se entrenó con el histórico de quién fue contratado antes en ese tipo de puesto, puede aprender a valorar mejor patrones de trayectoria que, sin que nadie lo busque, se asocian con un género más que con otro: por ejemplo, penalizar de forma indirecta periodos de trabajo a tiempo parcial o interrupciones en la trayectoria, más frecuentes estadísticamente en un género que en otro por motivos de conciliación.
Análisis de videoentrevistas. Algunos sistemas analizan expresiones, tono de voz o patrones de lenguaje en videoentrevistas grabadas para puntuar a los candidatos. Este tipo de análisis es especialmente delicado, porque puede penalizar formas de comunicarse o de gestionar los nervios que varían por razones culturales o de género sin relación real con el desempeño futuro en el puesto.
Pruebas y tests automatizados. Cuando un sistema de IA pondera los resultados de pruebas técnicas o psicométricas para generar una puntuación final, conviene revisar si esa ponderación se hizo con una muestra de referencia equilibrada, o si se calibró mayoritariamente con el perfil de quienes ya ocupaban puestos similares en la empresa, lo que reproduciría el desequilibrio existente en lugar de corregirlo.
Por qué este sesgo es difícil de detectar a simple vista
El error más habitual al pensar en este problema es asumir que basta con no incluir el género como variable en el sistema para evitarlo. En la práctica, un modelo puede aprender a usar variables aparentemente neutras como sustitutos indirectos: el tipo de universidad, ciertas actividades extraescolares, el patrón de continuidad en el empleo, o incluso palabras concretas del currículum que se correlacionan estadísticamente con un género sin que exista ninguna relación real con la capacidad para el puesto. Quitar la variable explícita no garantiza quitar el efecto.
Otro motivo por el que es difícil de ver es que el sistema no falla de forma evidente: no rechaza automáticamente por ser mujer u hombre, simplemente puntúa un poco peor, de forma sistemática, a un patrón de trayectoria que coincide con más frecuencia con uno de los dos géneros. Ese "un poco peor, muchas veces" es exactamente el mecanismo del sesgo algorítmico que explicamos con más detalle, para cualquier tipo de sesgo y no solo el de género, en qué es el sesgo algorítmico.
Qué debería revisar una empresa antes de usar un sistema así
- Pedir al proveedor información sobre si el sistema ha sido evaluado específicamente frente a sesgo de género, y con qué metodología, no solo frente a sesgos en general.
- Comparar, sobre un conjunto de prueba, si el sistema puntúa de forma distinta a currículums equivalentes en experiencia y formación cuando solo cambia el nombre o algún dato asociado al género.
- Revisar si el histórico de contrataciones con el que se entrenó o calibró el sistema refleja ya un desequilibrio relevante en el tipo de puesto que se va a cubrir.
- Mantener siempre una revisión humana antes de que una candidatura quede descartada de forma definitiva por la puntuación del sistema, especialmente en las fases más tempranas del proceso.
- Documentar los criterios que usa el sistema para poder explicarlos si en algún momento se cuestiona una decisión de selección, algo que además de buena práctica de gestión puede ser relevante desde el punto de vista normativo.
La relación con los planes de igualdad de la empresa
Muchas empresas ya cuentan, por su tamaño o por su sector, con un plan de igualdad que fija objetivos y medidas concretas para reducir desequilibrios de género en la plantilla. Un sistema de selección con sesgo de género, aunque nadie lo haya buscado, puede trabajar en sentido contrario a esos objetivos sin que se detecte hasta que los datos de contratación del año lo reflejen. Por eso conviene que la revisión de estos sistemas no quede solo en manos del equipo de tecnología o del proveedor externo, sino que se coordine también con quien gestiona en tu empresa el plan de igualdad y las políticas de recursos humanos, para asegurar que ambos esfuerzos van en la misma dirección. De nuevo, el detalle normativo exacto que aplica a tu empresa según su tamaño y sector debe confirmarlo un profesional especializado.
Qué no es este problema
No es una cuestión de mala fe del proveedor ni de la empresa que lo contrata: en la inmensa mayoría de los casos documentados, el sesgo aparece por el diseño de los datos de entrenamiento, no por una intención discriminatoria de nadie. Tampoco es un problema que se resuelva una sola vez en el momento de implantar el sistema: los patrones de contratación cambian con el tiempo, y un sistema libre de sesgo detectable hoy puede desarrollarlo más adelante si se reentrena con datos que ya incorporan un desequilibrio.
Conclusión
Un sistema de IA para selección de personal puede ser una herramienta muy útil para gestionar procesos con mucho volumen, pero exige una revisión específica frente al sesgo de género que va más allá de una evaluación técnica genérica, precisamente porque afecta al acceso de las personas a un empleo. En MG Solutions ayudamos a nuestros clientes a evaluar estos sistemas desde el diseño, siempre recomendando contrastar el detalle normativo con un profesional del derecho laboral. Reserva una primera reunión si quieres revisar tu proceso de selección actual.