Sergio Cabanelas
Leanda Barrington-Leach es directora ejecutiva de la Fundación 5Rights, una organización internacional que trabaja para garantizar un entorno digital que ponga los derechos de la infancia en el centro. 5Rights defiende que los derechos de los niños y niñas deben ser respetados también en los entornos digitales y trabaja en ámbitos como la regulación, la seguridad, la privacidad, el diseño apropiado para la edad y la participación de la infancia.
En el marco de la jornada ¿Cómo gobernar la IA desde la educación?, organizada por Equitat.org, Barrington-Leach conversa con Laia Orozco, responsable del Laboratorio de Equidad Digital, sobre los retos de la inteligencia artificial y la tecnología para los derechos de la infancia. Hablan de cómo incorporar la voz de los niños y niñas a la regulación, de la necesidad de responsabilizar a las empresas tecnológicas y de cómo pasar de los principios generales a mecanismos efectivos de regulación y certificación.
- Relacionado: ¿Cómo gobernar la IA desde la educación?
Barrington-Leach alerta también que la IA puede afectar a la capacidad de los niños y niñas de imaginar su propio futuro y reivindica que las decisiones sobre tecnología partan de las necesidades de la infancia y no de las oportunidades que ofrece la tecnología.
«Los niños y niñas están perdiendo la capacidad de imaginar futuros»
Desde 5Rights trabajáis internacionalmente para garantizar los derechos de la infancia en el entorno digital. ¿Cuál es el punto de partida para abordar la inteligencia artificial?
5Rights es una organización internacional que trabaja para conseguir un entorno digital que responda a las necesidades de los niños y niñas. Ponemos los derechos de la infancia en el centro y nos basamos en los derechos recogidos en la Convención sobre los Derechos de la Infancia.
En la era de la tecnología digital hay muchas cosas sobre las que no estamos de acuerdo, pero existe un gran consenso internacional sobre los derechos de la infancia. Ésta es una base muy sólida que podemos y debemos utilizar.
Nuestra visión es tener un mundo digital que guste a los niños y niñas, lo que significa ponerlos realmente en el centro. Con demasiada frecuencia ponemos la tecnología y nos preguntamos qué puede hacer, qué puede solucionar o cómo podemos gestionarla. Nuestra perspectiva es diferente: el humano y los niños y niñas deben estar en el centro. Si la tecnología sirve para responder a las necesidades del niño o niña, muy bien. Si no, no lo utilizamos.
¿Qué os dicen los niños y niñas cuando habláis con ellos sobre la tecnología y la inteligencia artificial?
La tecnología y la inteligencia artificial ya no son opcionales para los niños y niñas, ni mucho menos que para los adultos. Para nosotros puede haber aspectos de la vida en los que podemos decidir si utilizamos o no una tecnología, pero para los niños y niñas es diferente.
La tecnología interviene en su educación, sus relaciones, sus interacciones y muchos aspectos de su vida cotidiana. Por tanto, no tienen realmente la misma capacidad de decisión. Desde 5rights, a través de nuestra investigación y encuestas realizadas con niños y niñas, vemos que son muy optimistas y están muy emocionados frente a las nuevas posibilidades, pero cada vez vemos más su miedo. Los niños y niñas están perdiendo la capacidad de imaginar su futuro. No saben qué trabajos habrá, cómo será el mundo o cómo será la educación. Estamos quitándoles la capacidad de sentir que el futuro les pertenece.
Esto es muy importante porque también nos dicen estar preocupados por el impacto inmediato de la IA en aspectos como el pensamiento creativo y su agencia.
«No quieren el determinismo de la tecnología, quieren agencia»
¿Qué demandas concretas os hacen los niños y niñas?
Los niños y niñas son muy prácticos. Cuando les preguntas qué les gusta, qué no les gusta y lo que quieren de la tecnología, dan respuestas muy concretas. Por ejemplo, muchos te dicen que no quieren que la inteligencia artificial predice qué piensan o sienten. No quieren que la tecnología decida cómo se sentirán hoy en base a cómo se sentían ayer.
No quieren el determinismo de la tecnología, quieren agencia. Quieren poder escoger. No quieren que la tecnología les sugiera constantemente qué les puede interesar ni que determine sus decisiones. Esto se traduce en los cinco derechos que orientan nuestro trabajo: privacidad, seguridad, desarrollo, agencia y participación.
El desarrollo implica que la tecnología sea apropiada para la edad: no podemos tratar igual a un niño o niña de cinco años que a un adolescente de dieciséis. La agencia tiene que ver con la capacidad de decidir y pensar por uno mismo. Y la participación implica que los niños sean escuchados y puedan participar en las decisiones que les afectan.
“Los derechos de la infancia deben seguirlos allá donde vayan”
¿Cómo se trasladan estas demandas a su labor de incidencia política y reguladora?
Cuando empezamos a trabajar en este ámbito, existía una idea muy extendida de que el mundo digital era un mundo completamente nuevo y que necesitábamos leyes completamente nuevas.
Lo primero que hicimos fue decir: los derechos de los niños y niñas deben seguirlos allá donde vayan. Tanto si están en el aula, en la escuela, en casa o en un entorno digital. A partir de ahí trabajamos en un código de diseño apropiado para la edad y, durante más de diez años, hemos trabajado para establecer estándares compartidos para el desarrollo de la tecnología.
Esto es especialmente importante porque, aunque cada país tenga sus propias políticas, los niños y niñas de diferentes lugares del mundo tienen a menudo experiencias muy similares porque utilizan las mismas tecnologías.
«Para cambiar la tecnología, tienes que ir al nivel europeo»
¿Qué papel debe tener la regulación europea?
Si queremos cambiar cómo se diseña y gestiona la tecnología, en Europa debemos actuar a escala de la Unión Europea, porque hay un mercado único. Los gobiernos nacionales pueden tomar determinadas medidas, pero para cambiar la tecnología, prohibir determinados elementos o establecer requisitos sobre cómo debe funcionar, es necesario actuar a nivel europeo.
La protección de datos es de suma importancia porque, en definitiva, todo son datos. También lo es la propiedad intelectual. Existen diferentes piezas de la regulación europea que pueden tener un papel muy relevante en la protección de los niños y niñas. También existe una gran oportunidad en el desarrollo de nuevas normas que afectarán a la inteligencia artificial y a los servicios digitales, pero es un momento en el que hay mucho en juego: si lo hacemos mal ahora, después será muy difícil corregirlo.
«Necesitamos que las compañías demuestren que son seguras antes de poner sus productos a disposición de los niños»
¿Cómo pasamos de la regulación a la implementación efectiva?
Conseguir que la ley sea adecuada es responsabilidad colectiva. Todos debemos implicarnos. El reto es pasar de los principios generales a una regulación que sea fácil de implementar y aplicar.
Necesitamos un régimen de precertificación. Es decir, que la ley establezca mecanismos para que las compañías tengan que demostrar que sus productos son seguros antes de ponerlos a disposición de los niños y niñas.
Esto ya existe en otros ámbitos: por ejemplo tenemos sistemas de seguridad de los productos en los que existen normas europeas y mecanismos de implementación y supervisión en los estados. Éste es uno de los grandes mitos del entorno digital: pensar que todo es diferente. No lo es. Son empresas y debemos tratarlas como empresas, deben asumir sus responsabilidades y debemos determinar claramente qué autoridades deben supervisarlas, quién establece los criterios y quién certifica que cumplen las normas.
«En educación, los estándares deben ser más exigentes»
¿Qué elementos específicos deberíamos tener en cuenta cuando regulamos la IA en educación?
La educación es especialmente compleja por ser una competencia nacional o subnacional, mientras que muchos de los sistemas tecnológicos se regulan a otros niveles.
Pero aquí hay una cuestión fundamental: los estándares deben ser más exigentes cuando hablamos de educación. No es suficiente que un sistema sea seguro en cuanto al diseño. La educación es muy importante porque es formativa y debe beneficiar al aprendizaje. La narrativa dominante dice que hay muchas oportunidades y que la tecnología beneficiará al aprendizaje, pero el problema es que la evidencia no está.
Hay algunos usos muy específicos de la tecnología educativa que pueden beneficiar al aprendizaje, pero cuando hablamos del aprendizaje en general no tenemos esa evidencia.
«Debemos aprender a utilizar herramientas y aprender a pensar críticamente»
¿Qué debería hacernos replantear esta falta de evidencia?
Creo que el aprendizaje tiene que ver con el esfuerzo. Y esto es muy distinto a lo que ofrece la inteligencia artificial. La IA es acerca de hacer las cosas fáciles. Es sobre eficiencia y darte más información. Pero el aprendizaje es sobre significado y esfuerzo. Ésta es una conversación absolutamente crítica. ¿Cómo preparamos a los niños y niñas para un mundo que está cambiando? Para avanzar en este mundo necesitan un profundo aprendizaje. Necesitan capacidad de adaptación, creatividad y capacidad para resolver problemas.
La creatividad también depende del conocimiento. Y la capacidad de resolver problemas no consiste simplemente en utilizar una herramienta para solucionarlos. Debemos distinguir entre aprender a utilizar herramientas y aprender a pensar críticamente. La tecnología no puede convertirse en una sustituta del aprendizaje.
«No ponemos la tecnología en el centro: ponemos al niño y niña»
¿Esto implica también repensar qué pedimos a las políticas educativas?
Sí. Debemos empezar por el humano y por el niño y niña. Si comienzas con el humano, comienzas con el niño o niña: ¿cuáles son los resultados que necesitas para que el humano florezca? Y después tienes que mirar cómo la tecnología puede apoyarla.
No podemos empezar por el producto tecnológico y preguntarnos qué podemos hacer con él. Debemos empezar por las necesidades del niño y niña y ver si la tecnología contribuye a ello.
También debemos evitar pensar que todo es nuevo. Tenemos los derechos de la infancia, tenemos sistemas de gobernanza bien establecidos y tenemos millones de experiencias en educación.
No olvidemos todo esto y no pensemos que debemos reinventarlo todo porque ha llegado una tecnología nueva. Sabemos qué funciona y debemos gobernar la tecnología basándonos en esto.
En definitiva, gobernar la inteligencia artificial desde la educación implica ir más allá de decidir qué hacer y qué no. Para Leanda Barrington-Leach, es necesario poner a los niños y niñas en el centro, garantizar sus derechos y exigir a las empresas más responsabilidad antes de que las tecnologías lleguen a las aulas. Si partimos de las necesidades de la infancia y de los objetivos educativos, podremos decidir mejor qué papel debe tener la tecnología y cómo puede contribuir realmente a su desarrollo.
