Sergio Cabanelas
La intel·ligència artificial és una realitat a les aules, i fora de l’escola: segons les dades PISA un 92% dels estudiants de l’Estat espanyol l’ha fet servir per a tasques educatives. Davant d’aquest context, i de l’anunci de la prohibició de l’ús d’eines d’IA als centres educatius entre els menors de 14 anys per part del Departament d’Educació, el laboratori d’Equitat Digital organitzava la jornada Com governar la IA des de l’educació?. Amb una premissa bàsica: el debat no pot limitar-se en decidir si prohibim o permetem la intel·ligència artificial sinó que cal preguntar-nos com ens hi relacionem, quin límits necessitem, què volem que aprengui l’alumnat o quines condicions necessiten centres i docents per promoure un ús crític i responsable.
La jornada va reunir representants de l’administració, l’educació, els drets de la infància i l’àmbit de la intel·ligència artificial per debatre com passar de la regulació a la pràctica.
Laia Orozco, responsable del Laboratori d’Equitat Digital d’Equitat.org, situava el repte en l’obertura de l’acte: “Qualsevol regulació ha d’anar acompanyada de condicions que posin l’equitat, la lluita contra les desigualtats i l’aprenentatge al centre, i que impliquin la comunitat educativa i l’entorn social”.
- Relacionat: Com governar la IA des de l’educació
“És més útil parlar de límits i de criteri que de prohibició”
Una de les primeres qüestions que va aparèixer és com protegir infants i adolescents sense renunciar al potencial educatiu de la intel·ligència artificial. Manuel del Pozo, president del Consell d’Educació de Catalunya, en conversa amb Elena Sintes, va plantejar la necessitat d’establir unes normes de relació amb la IA que protegeixin el benestar i els drets de la infància, però que alhora permetin aprofitar-ne les possibilitats per a l’aprenentatge.
Davant d’aquest dilema, Del Pozo va proposar reduir l’ús de la paraula prohibició i parlar més aviat de “límit” i “criteri”. La qüestió no és només restringir l’accés a la tecnologia, sinó educar perquè infants i joves puguin desenvolupar criteri i mantenir-ne el control. “El risc més radical és la pèrdua o el mal assoliment de l’autonomia personal al llarg del creixement de nens i nens i, davant d’això, el camí el marquen tres claus: pensament crític, pensament creatiu i pensament curós”.
“El camí el marquen tres claus: pensament crític, pensament creatiu i pensament curós”.
Aquesta mirada és especialment important en un moment en què les polítiques públiques han de donar resposta a una tecnologia que evoluciona més ràpidament que els marcs normatius.
“Els docents i les llars necessiten criteri per moure’s en aquest riu”
Manuel del Pozo va insistir també en la necessitat que el professorat disposi de criteri per afrontar aquesta transformació. “Els docents en aquesta matèria són criteris per moure’s en aquest riu”, va afirmar, davant d’una tecnologia que avança a una velocitat difícil de seguir. Del Pozo va defensar la importància de crear equips diversos, on diferents mirades sobre la tecnologia puguin dialogar i aprendre conjuntament: “Cal que no se sentin sols en l’aventura d’incorporar la intel·ligència artificial en el seu ensenyament”, va reclamar. I va afegir-hi un altre element imprescindible: les famílies.
La IA no només ha entrat a les escoles, sinó també a les llars, a les habitacions dels infants i adolescents. “La intel·ligència artificial ha envaït les llars, les cuines, les habitacions dels nens i nenes”. Davant d’aquesta realitat, el pacte amb les famílies és essencial, no només per abordar l’ús de les eines, sinó també per afrontar els reptes educatius que se’n deriven.
“La intel·ligència artificial també ha envaït les llars, les cuines i les habitacions dels nens i nenes”
Una dimensió que és especialment rellevant quan parlem de benestar i salut mental. Durant el debat es va alertar, per exemple, de situacions en què adolescents poden arribar a utilitzar la IA com si fos un psicòleg, fet que reforça la necessitat d’abordar aquests usos des d’una perspectiva educativa, ètica i comunitària.
“La regulació és una primera base, i la governança ens permet aterrar-la”
La taula Lideratge català en la regulació de la IA va portar el debat a la realitat dels centres. Hi van participar Arlet Brufau, responsable d’intel·ligència artificial ètica en educació de l’OEIAC, i Moisés Ruiz, docent a Súnion i cofundador del projecte VigIA.
Brufau va remarcar que els marcs reguladors existents són una primera base, però que en l’àmbit educatiu cal incorporar altres mirades, especialment una perspectiva ètica. La regulació no pot anticipar totes les situacions que generarà una tecnologia en transformació constant. Per això, la dimensió ètica adquireix un paper especialment rellevant.
“L’ètica ens ajuda a resoldre problemes que encara no tenen una resposta legislativa”
Moisés Ruiz, per la seva banda, va reivindicar una posició crítica davant de la tecnologia que s’allunyi tant de l’entusiasme acrític com del rebuig. “No podem ser tecno-babaus. Tampoc crec que puguem ser tecnofòbics”, va plantejar. La proposta és construir una relació amb la IA basada en una confiança crítica. Per a Ruiz, aquesta mirada crítica ha d’anar acompanyada d’una visió humanista. No es tracta només d’entendre com funciona una tecnologia, sinó de dotar l’alumnat de coneixements, criteris i valors per decidir quin ús en fa.
“La governança és la que permet aterrar aquestes normes a les realitats concretes dels centres i acompanyar-los a l’hora de decidir què fer, què no fer, quines són les limitacions i els riscos de la IA i també quines potencialitats pot tenir”. La governança, per tant, permet anar més enllà d’una mirada exclusivament coercitiva de la regulació i incorporar-hi responsabilitat, confiança i esperit crític.
“La formació és fonamental: alfabetització i capacitació en intel·ligència artificial”
Un dels consensos de la taula rodona va ser que no n’hi ha prou amb elaborar regulacions o protocols, sinó que cal que les persones que utilitzen aquestes tecnologies tinguin les eines per comprendre-les i fer-ne un ús crític.
Brufau va assenyalar que la formació haurà d’estar sotmesa a una actualització constant, i va posar l’accent en la necessitat de treballar formació, alfabetització i capacitació en intel·ligència artificial, més enllà de formar-se en una eina concreta. La formació, en aquest sentit, no hauria de consistir a seguir el ritme de cada nova aplicació que arriba al mercat, sinó a construir criteri per moure’s en un entorn tecnològic canviant.
“No podem carregar-ho tot sobre el professorat”
La necessitat d’acompanyament va aparèixer també com una demanda específica de la taula rodona. La proposta és disposar també de figures o espais experts als quals els centres puguin recórrer quan apareguin dubtes o decisions complexes. Un comitè d’ètica digital permanent podria contribuir a donar aquest suport i permetre que els docents no hagin d’assumir individualment tota la complexitat.
“Els protocols han de permetre decidir quin és el bon ús de la IA a cada centre”
La governança també ha de tenir una traducció concreta en els centres educatius. Una de les propostes plantejades durant la jornada és l’elaboració de codis de bones pràctiques i protocols d’ús de la IA que permetin a cada centre analitzar la seva realitat: els recursos disponibles, les pràctiques existents, l’alumnat, les famílies i els valors propis de la comunitat educativa.
Aquests protocols no haurien de ser una decisió exclusiva del claustre. La proposta és incorporar-hi també l’alumnat, especialment a secundària i batxillerat, i les famílies, perquè la governança sigui compartida i perquè tots els agents se sentin part de la implementació responsable de la intel·ligència artificial.
Així, la governança deixa de ser una qüestió abstracta i es converteix en una eina per decidir, des de cada centre, quin és el bon ús de la IA i quines pràctiques no encaixen amb el seu projecte educatiu.
“De les caixes negres a les caixes blanques”
Un altre dels reptes plantejats és la transparència dels sistemes d’intel·ligència artificial. Si les eines que utilitzem són caixes negres i no sabem com funcionen ni com prenen determinades decisions, es fa més difícil desenvolupar-ne un ús crític. Per això, es va reivindicar la capacitat dels usuaris d’exigir més transparència a les grans companyies tecnològiques i avançar, simbòlicament, “de les caixes negres opaques cap a les caixes blanques”.
«Hem de poder exigir que la IA sigui transparent: saber com funcionen els algoritmes, identificar els biaixos que poden incorporar i garantir mecanismes per detectar-los i mitigar-ne els efectes», afirmava Arlet Brufau.
- Relacionat: Els algorismes a examen
Tres prioritats: formació, responsabilitat i governança
A l’hora de concretar quines haurien de ser les prioritats de les futures guies i polítiques d’acompanyament als centres, la taula va resumir-les en tres conceptes: formació, responsabilitat i governança.
Primer, formació per a totes les persones abans d’utilitzar qualsevol eina o sistema d’IA i a totes les edats. Segon, responsabilitat davant dels usos de la tecnologia i també davant dels errors que poden produir els sistemes. I tercer, governança, concretada en protocols i codis de bones pràctiques elaborats des dels mateixos centres.
Tres dimensions que, en realitat, apunten a una mateixa idea: no n’hi ha prou amb regular la intel·ligència artificial, sinó que cal construir les condicions perquè la comunitat educativa pugui governar-ne l’ús.
