Sergio Cabanelas
La inteligencia artificial es una realidad en las aulas, y fuera de la escuela: según los datos PISA, un 92% de los estudiantes del Estado español la ha utilizado para tareas educativas. Ante este contexto, y del anuncio de la prohibición del uso de herramientas de IA en los centros educativos entre los menores de 14 años por parte del Departamento de Educación, el laboratorio de Equidad Digital organizaba la jornada ¿Cómo gobernar la IA desde la educación?. Con una premisa básica: el debate no puede limitarse al decidir si prohibimos o permitimos la inteligencia artificial sino que hay que preguntarnos cómo nos relacionamos con ella, qué límites necesitamos, qué queremos que aprenda el alumnado o qué condiciones necesitan centros y docentes para promover un uso crítico y responsable.
La jornada reunió a representantes de la administración, la educación, los derechos de la infancia y el ámbito de la inteligencia artificial para debatir cómo pasar de la regulación a la práctica.
Laia Orozco, responsable del Laboratorio de Equidad Digital de Equitat.org, situaba el reto en la apertura del acto: “Cualquier regulación debe ir acompañada de condiciones que pongan la equidad, la lucha contra las desigualdades y el aprendizaje en el centro, y que impliquen a la comunidad educativa y al entorno social”.
- Relacionado: Comó gobernar la IA desde la educación
«Es más útil hablar de límites y de criterio que de prohibición»
Una de las primeras cuestiones que apareció es cómo proteger a niños y adolescentes sin renunciar al potencial educativo de la inteligencia artificial. Manuel del Pozo, presidente del Consejo de Educación de Catalunya, en conversación con Elena Sintes, planteó la necesidad de establecer unas normas de relación con la IA que protejan el bienestar y los derechos de la infancia, pero que al mismo tiempo permitan aprovechar sus posibilidades para su aprendizaje.
Ante este dilema, Del Pozo propuso reducir el uso de la palabra prohibición y hablar más bien de “límite” y “criterio”. La cuestión no es sólo restringir el acceso a la tecnología, sino educar para que niños y jóvenes puedan desarrollar criterio y mantener su control. «El riesgo más radical es la pérdida o el mal logro de la autonomía personal a lo largo del crecimiento de niños y niños y, ante esto, el camino lo marcan tres claves: pensamiento crítico, pensamiento creativo y pensamiento cuidadoso».
«El camino lo marcan sacas claves: pensamiento crítico, pensamiento creativo y pensamiento cuidadoso».
Esta mirada es especialmente importante en un momento en el que las políticas públicas deben dar respuesta a una tecnología que evoluciona más rápidamente que los marcos normativos.
«Los docentes y los hogares necesitan criterio para moverse en este río»
Manuel del Pozo insistió también en la necesidad de que el profesorado disponga de criterio para afrontar esta transformación. «Los docentes en esta materia son criterios para moverse en este río», afirmó, ante una tecnología que avanza a una velocidad difícil de seguir. Del Pozo defendió la importancia de crear equipos diversos, donde diferentes miradas sobre la tecnología puedan dialogar y aprender conjuntamente: «Es necesario que no se sientan solos en la aventura de incorporar la inteligencia artificial en su enseñanza«, reclamó. Y añadió otro elemento imprescindible: las familias.
La IA no sólo ha entrado en las escuelas, sino también en los hogares, en las habitaciones de los niños, niñas y adolescentes. «La inteligencia artificial ha invadido los hogares, las cocinas, las habitaciones de los niños y niñas». Ante esta realidad, el pacto con las familias es esencial, no sólo para abordar el uso de las herramientas, sino también para afrontar los retos educativos que se derivan.
«La inteligencia artificial también ha invadido los hogares, las cocinas y las habitaciones de los niños y niñas»
Una dimensión especialmente relevante cuando hablamos de bienestar y salud mental. Durante el debate se alertó, por ejemplo, de situaciones en las que adolescentes pueden llegar a utilizar la IA como un psicólogo, lo que refuerza la necesidad de abordar estos usos desde una perspectiva educativa, ética y comunitaria.
«La regulación es una primera base, y la gobernanza nos permite aterrizarla»
La mesa Liderazgo catalán en la regulación de la IA llevó el debate a la realidad de los centros. Participaron Arlet Brufau, responsable de inteligencia artificial ética en educación de la OEIAC, y Moisés Ruiz, docente en Súnion y cofundador del proyecto VigIA.
Brufau remarcó que los marcos reguladores existentes son una primera base, pero que en el ámbito educativo es necesario incorporar otras miradas, especialmente una perspectiva ética. La regulación no puede anticipar todas las situaciones que generará una tecnología en constante transformación. Por eso, la dimensión ética adquiere un papel especialmente relevante.
«La ética nos ayuda a resolver problemas que todavía no tienen una respuesta legislativa»
Moisés Ruiz, por su parte, reivindicó una posición crítica ante la tecnología que se aleje tanto del entusiasmo acrítico como del rechazo. «No podemos ser tecno-bobos. Tampoco creo que podamos ser tecnofóbicos», planteó. La propuesta es construir una relación con la IA basada en una confianza crítica. Para Ruiz, esa mirada crítica debe ir acompañada de una visión humanista. No se trata sólo de entender cómo funciona una tecnología, sino de dotar al alumnado de conocimientos, criterios y valores para decidir qué uso hace de ellos.
«La gobernanza es la que permite aterrizar estas normas en las realidades concretas de los centros y acompañarles a la hora de decidir qué hacer, qué no hacer, cuáles son las limitaciones y los riesgos de la IA y también qué potencialidades puede tener». La gobernanza, por tanto, permite ir más allá de una mirada exclusivamente coercitiva de la regulación e incorporar responsabilidad, confianza y espíritu crítico.
«La formación es fundamental: alfabetización y capacitación en inteligencia artificial»
Uno de los consensos de la mesa redonda fue que no es suficiente con elaborar regulaciones o protocolos, sino que es necesario que las personas que utilizan estas tecnologías tengan las herramientas para comprenderlas y hacer un uso crítico.
Brufau señaló que la formación deberá estar sometida a una actualización constante, haciendo hincapié en la necesidad de trabajar formación, alfabetización y capacitación en inteligencia artificial, más allá de formarse en una herramienta concreta. La formación, en este sentido, no debería consistir en seguir el ritmo de cada nueva aplicación que llega al mercado, sino en construir criterio para moverse en un entorno tecnológico cambiante.
«No podemos cargarlo todo sobre el profesorado»
La necesidad de acompañamiento apareció también como una demanda específica de la mesa redonda. La propuesta es disponer también de figuras o espacios expertos a los que los centros puedan acudir cuando aparezcan dudas o decisiones complejas. Un comité de ética digital permanente podría contribuir a dar ese apoyo y permitir que los docentes no tengan que asumir individualmente toda la complejidad.
«Los protocolos deben permitir decidir cuál es el buen uso de la IA en cada centro»
La gobernanza también debe tener una traducción concreta en los centros educativos. Una de las propuestas planteadas durante la jornada es la elaboración de códigos de buenas prácticas y protocolos de uso de la IA que permitan a cada centro analizar su realidad: los recursos disponibles, las prácticas existentes, el alumnado, las familias y valores propios de la comunidad educativa.
Estos protocolos no deberían ser una decisión exclusiva del claustro. La propuesta es incorporar también al alumnado, especialmente a secundaria y bachillerato, y a las familias, para que la gobernanza sea compartida y para que todos los agentes se sientan parte de la implementación responsable de la inteligencia artificial.
Así, la gobernanza deja de ser una cuestión abstracta y se convierte en una herramienta para decidir, desde cada centro, cuál es el buen uso de la IA y qué prácticas no encajan con su proyecto educativo.
«De las cajas negras a las cajas blancas»
Otro de los retos planteados es la transparencia de los sistemas de inteligencia artificial. Si las herramientas que utilizamos son cajas negras y no sabemos cómo funcionan ni cómo toman determinadas decisiones, se hace más difícil desarrollar un uso crítico. Por eso, se reivindicó la capacidad de los usuarios de exigir una mayor transparencia a las grandes compañías tecnológicas y avanzar, simbólicamente, “de las cajas negras opacas hacia las cajas blancas”.
«Debemos poder exigir que la IA sea transparente: saber cómo funcionan los algoritmos, identificar los sesgos que pueden incorporar y garantizar mecanismos para detectarlos y mitigar sus efectos», afirmaba Arlet Brufau.
- Relacionado: Los algorismos a examen
Tres prioridades: formación, responsabilidad y gobernanza
A la hora de concretar cuáles deberían ser las prioridades de las futuras guías y políticas de acompañamiento a los centros, la mesa las resumió en tres conceptos: formación, responsabilidad y gobernanza.
Primero, formación para todas las personas antes de utilizar cualquier herramienta o sistema de IA y en todas las edades. Segundo, responsabilidad frente a los usos de la tecnología y también frente a los errores que pueden producir los sistemas. Y tercero, gobernanza, concretada en protocolos y códigos de buenas prácticas elaborados desde los propios centros.
Tres dimensiones que, en realidad, apuntan a una misma idea: no es suficiente con regular la inteligencia artificial, sino que es necesario construir las condiciones para que la comunidad educativa pueda gobernar su uso.
