Sergio Cabanelas
Leanda Barrington-Leach és directora executiva de la Fundació 5Rights, una organització internacional que treballa per garantir un entorn digital que posi els drets de la infància al centre. 5Rights defensa que els drets dels infants han de ser respectats també en els entorns digitals i treballa en àmbits com la regulació, la seguretat, la privacitat, el disseny apropiat per a l’edat i la participació dels infants.
En el marc de la jornada Com governar la IA des de l’educació?, organitzada per Equitat.org, Barrington-Leach conversa amb Laia Orozco, responsable del Laboratori d’Equitat Digital, sobre els reptes de la intel·ligència artificial i la tecnologia per als drets de la infància. Parlen de com incorporar la veu dels infants a la regulació, de la necessitat de responsabilitzar les empreses tecnològiques i de com passar dels principis generals a mecanismes efectius de regulació i certificació.
- Relacionat: Com governar la IA des de l’educació
Barrington-Leach alerta també que la IA pot afectar la capacitat dels infants d’imaginar el seu propi futur i reivindica que les decisions sobre tecnologia parteixin de les necessitats dels infants i no de les oportunitats que ofereix la tecnologia.
“Els infants estan perdent la capacitat d’imaginar futurs”
Des de 5Rights treballeu internacionalment per garantir els drets de la infància en l’entorn digital. Quin és el punt de partida per abordar la intel·ligència artificial?
5Rights és una organització internacional que treballa per aconseguir un entorn digital que respongui a les necessitats dels infants. Posem els drets de la infància al centre i ens basem en els drets recollits a la Convenció sobre els Drets de l’Infant.
En l’era de la tecnologia digital hi ha moltes coses sobre les quals no estem d’acord, però hi ha un gran consens internacional sobre els drets dels infants. Aquesta és una base molt sòlida que podem i hem d’utilitzar.
La nostra visió és tenir un món digital que agradi als infants, i això significa posar-los realment al centre. Massa sovint hi posem la tecnologia i ens preguntem què pot fer, què pot solucionar o com podem gestionar-la. La nostra perspectiva és diferent: l’humà i l’infant han d’estar al centre. Si la tecnologia serveix per respondre a les necessitats de l’infant, molt bé. Si no, no l’utilitzem.
Què us diuen els infants quan parleu amb ells sobre la tecnologia i la intel·ligència artificial?
La tecnologia i la intel·ligència artificial ja no són opcionals per als infants, i encara menys que per als adults. Per a nosaltres pot haver-hi aspectes de la vida en què podem decidir si utilitzem o no una tecnologia, però als infants és diferent.
La tecnologia intervè en la seva educació, les seves relacions, les seves interaccions i molts aspectes de la seva vida quotidiana. Per tant, no tenen realment la mateixa capacitat de decisió. Des de 5rights, a través de la nostra recerca i enquestes realitzades amb infants, veiem que són molt optimistes i estan molt emocionats davant de les noves possibilitats, però cada vegada veiem més la seva por. Els infants estan perdent la capacitat d’imaginar el seu futur. No saben quines feines hi haurà, com serà el món o com serà l’educació. Estem traient-los la capacitat de sentir que el futur els pertany.
Això és molt important perquè també ens diuen que estan preocupats per l’impacte immediat de la IA en aspectes com el pensament creatiu i la seva agència.
“No volen el determinisme de la tecnologia, volen agència”
Quines demandes concretes us fan els infants?
Els infants són molt pràctics. Quan els preguntes què els agrada, què no els agrada i què volen de la tecnologia, donen respostes molt concretes. Per exemple, molts et diuen que no volen que la intel·ligència artificial predigui què pensen o què senten. No volen que la tecnologia decideixi com se sentiran avui basant-se en com se sentien ahir.
No volen el determinisme de la tecnologia, volen agència. Volen poder escollir. No volen que la tecnologia els suggereixi constantment què els pot interessar ni que determini les seves decisions. Això es tradueix en els cinc drets que orienten la nostra feina: privacitat, seguretat, desenvolupament, agència i participació.
El desenvolupament implica que la tecnologia sigui apropiada per a l’edat: no podem tractar igual un infant de cinc anys que un adolescent de setze. L’agència té a veure amb la capacitat de decidir i pensar per un mateix. I la participació implica que els infants siguin escoltats i puguin participar en les decisions que els afecten.
“Els drets dels infants els han de seguir allà on vagin”
Com es traslladen aquestes demandes a la vostra tasca d’incidència política i reguladora?
Quan vam començar a treballar en aquest àmbit, hi havia una idea molt estesa que el món digital era un món completament nou i que necessitàvem lleis completament noves.
La primera cosa que vam fer va ser dir: els drets dels infants els han de seguir allà on vagin. Tant si són a l’aula, a l’escola, a casa o en un entorn digital. A partir d’aquí vam treballar en un codi de disseny apropiat per a l’edat i, durant més de deu anys, hem treballat per establir estàndards compartits per al desenvolupament de la tecnologia.
Això és especialment important perquè, encara que cada país tingui les seves pròpies polítiques, els infants de diferents llocs del món sovint tenen experiències molt similars perquè utilitzen les mateixes tecnologies.
“Per canviar la tecnologia, has d’incidir al nivell europeu”
Quin paper ha de tenir la regulació europea?
Si volem canviar com es dissenya i es gestiona la tecnologia, a Europa hem d’actuar a escala de la Unió Europea, perquè hi ha un mercat únic. Els governs nacionals poden prendre determinades mesures, però per canviar la tecnologia, prohibir determinats elements o establir requisits sobre com ha de funcionar, cal actuar a nivell europeu.
La protecció de dades és molt important perquè, en definitiva, tot són dades. També ho és la propietat intel·lectual. Hi ha diferents peces de la regulació europea que poden tenir un paper molt rellevant en la protecció dels infants. També hi ha una gran oportunitat en el desenvolupament de noves normes que afectaran la intel·ligència artificial i els serveis digitals, però és un moment en què hi ha molt en joc: si ho fem malament ara, després serà molt difícil corregir-ho.
“Necessitem que les companyies demostrin que són segures abans de posar els seus productes a disposició dels infants”
Com passem de la regulació a la implementació efectiva?
Aconseguir que la llei sigui adequada és una responsabilitat col·lectiva. Tots ens hi hem d’implicar. El repte és passar dels principis generals a una regulació que sigui fàcil d’implementar i d’aplicar.
Necessitem un règim de precertificació. És a dir, que la llei estableixi mecanismes perquè les companyies hagin de demostrar que els seus productes són segurs abans de posar-los a disposició dels infants.
Això ja existeix en altres àmbits: per exemple tenim sistemes de seguretat dels productes en què hi ha normes europees i mecanismes d’implementació i supervisió als estats. Aquest és un dels grans mites de l’entorn digital: pensar que tot és diferent. No ho és. Són empreses i les hem de tractar com a empreses, had’assumir les seves responsabilitats i hem de determinar clarament quines autoritats han de supervisar-les, qui estableix els criteris i qui certifica que compleixen les normes.
“En educació, els estàndards han de ser més exigents”
Quins elements específics hauríem de tenir en compte quan regulem la IA en educació?
L’educació és especialment complexa perquè és una competència nacional o subnacional, mentre que molts dels sistemes tecnològics es regulen a altres nivells.
Aquí, però, que hi ha una qüestió fonamental: els estàndards han de ser més exigents quan parlem d’educació. No n’hi ha prou que un sistema sigui segur pel que fa al disseny. L’educació és molt important perquè és formativa i ha de beneficiar l’aprenentatge. La narrativa dominant diu que hi ha moltes oportunitats i que la tecnologia beneficiarà l’aprenentatge, perrò el problema és que l’evidència no hi és.
Hi ha alguns usos molt específics de la tecnologia educativa que poden beneficiar l’aprenentatge, però quan parlem de l’aprenentatge en general no tenim aquesta evidència.
“Hem d’aprendre a utilitzar eines i aprendre a pensar críticament”
Què ens hauria de fer replantejar aquesta manca d’evidència?
Crec que l’aprenentatge té a veure amb l’esforç. I això és molt diferent del que ofereix la intel·ligència artificial. La IA és sobre fer les coses fàcils. És sobre eficiència i sobre donar-te més informació. Però l’aprenentatge és sobre significat i esforç. Aquesta és una conversa absolutament crítica. Com preparem els infants per a un món que està canviant? Per avançar en aquest món necessiten un aprenentatge profund. Necessiten capacitat d’adaptació, creativitat i capacitat per resoldre problemes.
La creativitat també depèn del coneixement. I la capacitat de resoldre problemes no consisteix simplement a utilitzar una eina per solucionar-los. Hem de distingir entre aprendre a utilitzar eines i aprendre a pensar críticament. La tecnologia no pot convertir-se en una substituta de l’aprenentatge.
“No posem la tecnologia al centre: posem-hi l’infant”
Això implica també repensar què demanem a les polítiques educatives?
Sí. Hem de començar per l’humà i per l’infant. Si comences amb l’humà, comences amb l’infant: quins són els resultats que necessites perquè l’humà floreixi? I després has de mirar com la tecnologia pot donar-hi suport.
No podem començar pel producte tecnològic i preguntar-nos què en podem fer. Hem de començar per les necessitats de l’infant i veure si la tecnologia hi contribueix.
També hem d’evitar pensar que tot és nou. Tenim els drets dels infants, tenim sistemes de governança ben establerts i tenim milions d’experiències en educació.
No oblidem tot això i no pensem que hem de reinventar-ho tot perquè ha arribat una tecnologia nova. Sabem què funciona i hem de governar la tecnologia basant-nos en això.
En definitiva, governar la intel·ligència artificial des de l’educació implica anar més enllà de decidir què es pot fer i què no. Si partim de les necessitats dels infants i dels objectius educatius, podrem decidir millor quin paper ha de tenir la tecnologia i com pot contribuir realment al seu desenvolupament.
