Muchos adolescentes piensan que una máquina es objetiva por definición: si lo dice el ordenador, será que es verdad. Es una idea cómoda y, en el caso de la IA, bastante peligrosa. Un sistema que aprende de ejemplos humanos puede repetir los patrones de esos ejemplos, incluidos los estereotipos, y tratar de forma distinta a personas distintas sin que nadie lo haya decidido a propósito.
Explicarlo con una charla suele funcionar poco. Verlo funciona mejor. Este artículo propone tres actividades de ética de la IA para la ESO que se hacen en el aula, con el docente al mando y con ejemplos preparados de antemano, y una cuarta dinámica de cierre para debatir quién responde cuando un sistema trata mal a alguien. No hace falta que el alumnado use ninguna herramienta de IA ni cree cuentas.
Antes de empezar: cinco reglas comunes
- Dirige el docente; el alumnado no introduce datos. Quien maneja la herramienta eres tú, proyectando o llevando los resultados impresos. Las herramientas suelen fijar edades mínimas de uso en sus condiciones, y las personas menores no deben introducir datos personales en ellas. Si tienes dudas sobre qué se puede hacer en tu centro, consúltalo con el delegado de protección de datos.
- Prepara los ejemplos antes de la clase. Una IA no responde igual cada vez, así que no se puede improvisar. Haz las pruebas con calma, repítelas varias veces y guarda los resultados que vas a mostrar.
- Todo lo que se use es inventado. Personas ficticias, nombres ficticios. Nada de alumnado real, familias reales ni personas famosas.
- Cuida el clima del aula. Los sesgos tocan asuntos delicados: género, origen, barrio, dinero. Pacta unas normas de respeto, no pidas a nadie que «represente» a un grupo y evita ejemplos que coincidan con circunstancias conocidas de alguien presente.
- Que no salga también es una lección. Si en tus pruebas no aparece ninguna diferencia, dilo: no ver un problema en tres pruebas no demuestra que no exista. Probar con método es parte de lo que se aprende.
Actividad 1: «¿Quién sale en la imagen?»
Objetivo. Que el alumnado vea cómo un sistema puede repetir imágenes estereotipadas de profesiones y oficios.
Preparación del docente. Elige seis oficios, por ejemplo: una persona que cuida de niños, una que dirige una empresa, una que arregla coches, una que enseña, una que programa y una que cocina. Pide a una herramienta de generación de imágenes (o, si no la tienes, de descripciones escritas) que retrate a cada una, y repite cada petición varias veces. Guarda los resultados en una presentación. Revisa que sean apropiados para la edad.
Desarrollo (una sesión).
- Sin ver nada, cada alumno escribe en un papel cómo se imagina a cada una de las seis personas.
- Proyectas los resultados. En grupos de cuatro, anotan patrones: género, edad, aspecto, entorno.
- Comparan con lo que habían escrito. Casi siempre aparece algún parecido entre lo que imaginaban ellos y lo que ha hecho la herramienta.
- Preguntas clave: ¿de dónde saca el sistema esas imágenes? Explícalo en una frase: aprende de enormes cantidades de ejemplos ya existentes, y si en ellos hay patrones repetidos, tiende a repetirlos.
Para debatir. ¿Qué pasaría si usáramos esas imágenes para un cartel de orientación profesional? ¿Cómo pedirías la imagen para no repetir el estereotipo? ¿Quién debería comprobarlo antes de publicar?
Cautela. Nunca pidas imágenes de personas reales.
Actividad 2: «La beca imposible»
Objetivo. Entender que una regla que parece neutra puede dar resultados desiguales, porque algunos datos funcionan como una pista indirecta de otros.
Preparación del docente. Inventa ocho o diez fichas de candidatos ficticios a una beca de actividades extraescolares. Cada ficha recoge datos neutros: si ha participado en actividades del centro anteriores, si vive cerca del centro, si tiene transporte propio, si ha asistido a campamentos de verano. Prepara un «sistema» de puntos en papel: suma puntos por haber participado antes, por tener transporte propio y por haber ido a campamentos. Diseña las fichas de modo que el alumnado recién llegado o con menos recursos quede abajo sin que ninguna regla lo diga.
Desarrollo (una sesión).
- En parejas, el alumnado aplica el sistema y ordena las fichas.
- Revelas lo que tienen en común las fichas que han quedado abajo: acababan de llegar al centro, no tenían transporte propio, no podían pagar campamentos.
- Debate: la regla no decía nada injusto, pero el resultado sí. En eso consiste una pista indirecta: un dato aparentemente inocente que acaba representando otra cosa.
- Por parejas, rediseñan la regla: ¿qué cambiarían? ¿Qué se pierde con el cambio?
Para debatir. ¿Quién decide qué reglas usa un sistema? ¿Quién comprueba a quién deja fuera? Si un sistema dijera «no» a una persona y no supiera explicar por qué, ¿qué debería poder hacer esa persona?
Cautela. Evita fichas que coincidan con situaciones reales de alumnado del grupo, sobre todo económicas o familiares.
Actividad 3: «Dos preguntas casi iguales»
Objetivo. Ver que un pequeño cambio en la petición puede cambiar la respuesta, y aprender a probar sin sacar conclusiones con una sola muestra.
Preparación del docente. Elige tres pares de peticiones idénticas salvo un detalle. Por ejemplo, pedir un consejo de orientación para una persona ficticia que quiere estudiar un ciclo técnico, cambiando solo un nombre inventado. Ejecuta cada petición varias veces y apunta diferencias de tono, adjetivos, longitud y sugerencias. Imprime los resultados como «texto A» y «texto B» sin decir qué cambió.
Desarrollo (una sesión).
- Reparte los pares a grupos de tres o cuatro. Piden subrayar todo lo que sea distinto.
- Revelas el detalle que cambió y qué texto corresponde a cada petición.
- Debate: ¿la diferencia es relevante o puede deberse al azar? Aquí entra una idea clave: una IA puede dar respuestas distintas a la misma petición si la repites, así que una sola prueba no basta.
- Cada grupo diseña en papel su propia mini prueba para la siguiente sesión, con una hipótesis y un número de repeticiones. Tú la ejecutas y la comentáis.
Cautela. Usa nombres y casos inventados, evita comparaciones que puedan herir (religión, origen, discapacidad) y decide tú qué comparaciones entran.
Cierre común: ¿quién responde?
Cuando las tres actividades han terminado, dedica quince minutos a una dinámica de cierre. Entrega a cada grupo un caso breve inventado: por ejemplo, un sistema que preselecciona solicitudes y deja fuera sistemáticamente a un grupo de personas. Piden que rellenen un cuadro con cinco papeles: quien diseña el sistema, quien lo elige y lo pone en marcha, quien decide con él, quien lo supervisa y la persona afectada. Para cada papel, una pregunta: ¿qué debería haber hecho?
El mensaje que conviene dejar es doble. Por un lado, un sistema no es neutral por ser una máquina. Por otro, siempre hay personas responsables, y las decisiones que afectan a personas las debe tomar una persona, con la posibilidad de que quien se ve afectado pida que alguien lo revise.
Qué hace la IA y qué hace el docente
La herramienta solo produce los ejemplos que tú has elegido y ensayado. Todo lo demás es trabajo del docente: preparar, filtrar, moderar, cuidar el clima del aula y conectar lo que se ve con lo que se explica. El alumnado analiza y debate; no maneja datos personales ni crea cuentas.
Qué se lleva el alumnado
No esperes que todos lo vean a la primera. Un buen resultado es que salgan con tres ideas:
- Un sistema puede equivocarse de forma desigual: no falla igual para todos.
- La pregunta útil no es «¿es la IA buena o mala?», sino «¿a quién beneficia, a quién perjudica y quién lo comprueba?».
- Siempre hay personas detrás, y se les puede pedir cuentas.
Si quieres seguir, tienes qué debería saber de IA un alumno al terminar la ESO, una guía para verificar lo que dice la IA antes de llevarlo al aula y, para ver cómo una brecha puede repetirse sin que nadie lo quiera, las cifras de la brecha de género en lo digital.
Conclusión
Tres actividades sencillas, preparadas de antemano y dirigidas por el docente bastan para que el alumnado de ESO vea que una IA puede repetir estereotipos, aplicar reglas aparentemente neutras con resultados desiguales y responder distinto según un detalle. El cierre sobre quién responde convierte lo visto en una idea con la que trabajar durante el curso: la responsabilidad es de personas.
En MG Solutions damos masterclasses de IA a alumnos de ESO y Bachillerato: tres días en el colegio con herramientas para su día a día, para estudiar mejor y para usar la IA de forma responsable.
Puedes ver más en nuestra formación en IA para colegios.
Si quieres ver cómo encajaría en tu caso, escríbenos y lo hablamos.