CRÒNICA

Perill, material fràgil. La IA a l’educació: entre l’esperança i la distopia

El Laboratori d’Equitat Digital de la Universitat de Girona invita a la necessària reflexió entorn de la protecció de les dades personals en moments d’expansió de la IA. 

Només uns dies abans de la convocatòria a aquest conversatori, una notícia encenia les alarmes de molts: cues i cues de joves i persones migrants disposades a escanejar els seus iris a canvi de criptomonedes a Catalunya. La privadesa, la desigualtat en la protecció de les dades personals, els perills dels usos i abusos potencials que planteja la tecnologia i el seu creixement voraç dels darrers anys són, sens dubte, “material fràgil”. Però també, són temes que obren un diàleg necessari i urgent.

En aquest context, el Professor Jaume Ametller va donar la benvinguda a l’Exploratori Digital organitzat pel Laboratori d’Equitat Digital de la Universitat de Girona, sota el títol “Perill, material fràgil: la IA a l’educació, entre l’esperança i la distopia”, i va explicar: “Vam decidir que una de les nostres prioritats formatives seria parlar de la intel·ligència artificial més enllà de l’efervescència i de com això afecta no només l’educació en un sentit de què passa a l’aula, sinó de com afecta l’educació que hem de fer des de la universitat.”

D’altra banda, Héctor Martínez Romero, impulsor del Laboratori d’Equitat Digital de la Fundació Bofill, va celebrar el fet que “un dimecres a la tarda, més d’una trentena de persones estiguin aquí, per reflexionar i compartir experiències sobre aquests temes” i va assenyalar: “Ni ho sabem tot ni ho podrem saber tot. Al final, el que és segur és que hem de fomentar l’esperit crític i la prudència” i “buscar solucions per i des de la comunitat educativa”.

Diàleg exploratori: “Com navegar entre la prudència i l’eufòria col·lectiva que genera l’ús de la IA?”

“Ens trobem en un procés que és absolutament vertiginós. És com una espiral increïble. Però, ¿En serà útil? La IA, ¿Serà realment eficaç? ¿Serà una ajuda? ¿O tenim elements massa negatius, com potser la manca de privacitat, d’equitat o de transparència en l’ús?”, tots aquests interrogants i reptes són els que va llençar l’educadora i assessora en transformació educativa, Coral Regí, per obrir el debat amb els experts, el Doctor en filosofia i professor emèrit de la Universitat de Girona, Joan Manuel del Pozo, i la Recercaire en Intel·ligència Artificial a l’IIIA-CSIC, Alejandra López.

La sensació compartida és que sempre anem un pas per darrere, tant en termes de definició de marcs reguladors i legals, com en el coneixement dels reptes ètics, socials i polítics que introdueix la IA. Davant d’aquest context, es va proposar aquest diàleg exploratori sobre els usos de la IA en l’àmbit educatiu, amb tot el seu potencial, però també amb els riscos o perills que presenta.

¿Què és la IA?: Riscos, reptes i potencial

Per tal de comprendre en quin punt ens trobem, la investigadora en IA a l’IIIA-CSIC, Alejandra López, va començar explicant què és la intel·ligència artificial i fins a on arriben les seves capacitats. Segons ella, la IA “no és intel·ligent, sinó que és un bon truc de màgia. Però no té consciència ni capacitat d’anticipació”.

L’experta va explicar que la IA comprendre tots aquells programes que no només tenen capacitat de reacció -rebre un senyal de l’entorn i actuar en conseqüència- sinó també d’adaptació, és a dir, que és tracta d’una eina que, amb totes les dades que rep, va aprenent a reaccionar cada vegada millor i de manera més personalitzada per a l’usuari.

Què significa això? Quan tenim alguna cosa reactiva, com un termòstat, si coneixem bé les condicions inicials, podem predir com es comportarà, va explicar l’experta. Però -va indicar-, quan tenim alguna cosa que és reactiva i adaptativa alhora, aquesta esdevé més difícil de preveure. “No és que no sabem com funciona, sinó que la seva resposta està excessivament personalitzada i adaptada a cada usuari. No podem predir què mostrarà el feed d’Instagram de cadascú”, va explicar l’experta.

Un perill d’això, va indicar la investigadora, és que tendeix a produir-se el biaix de fals consens. Els motors de cerca mostren resultats semblants al que ja ens interessa i tendim a creure que el que nosaltres pensem és la veritat. Això explica, per exemple, com poden sorgir comunitats com la dels terraplanistes, convençuts que la seva bombolla és la realitat.

Tecnologia nova, poder nou

El Doctor en filosofia Joan Manuel del Pozo va indagar en els aspectes ètics que planteja la IA. “Mai una tecnologia havia tingut la capacitat que té la IA d’instal·lar-se a les nostres vides, en la interioritat de les persones. Entra en el nostre llenguatge, és capaç de donar-nos lliçons, ens sedueix, pot oferir-nos un producte que ens agrada i ens interessa. Combina les dades amb una capacitat d’ordenació, distribució, falsificació, de càlcul i  manipulació de les nostres vides fenomenal”, va dir i va sintetitzar: “Una tecnologia nova és un poder nou. Com totes les grans tecnologies, al llarg de la història, el seu problema és que ofereix un gran poder a aquells que en tenen el domini. I el poder tendeix a concentrar-se en poques mans”.

Davant d’això, va dir, “crec que és important que totes les persones, de tota procedència, formació i interessos, entrin en diàleg social, perquè al que porta és una transformació radical de la humanitat. És abastadora”. 

Ningú farà recular aquesta tecnologia. D’aquí sorgeix la preocupació de com poder integrar-la de manera ètica i socialment positiva / Joan Manuel del Pozo

La IA com eina educativa: Ens pot ajudar la IA a millorar les experiències educatives?

La moderadora Coral Regí va proposar posar el focus en l’aplicació de la intel·ligència artificial a l’educació, i va destacar la importància de què s’ensenyi l’alumnat a utilitzar les eines necessàries de manera efectiva i crítica. “És important formar persones conscients dels perills associats a les tecnologies digitals i dotar-les de les eines i l’economia necessàries per evitar aquests riscos”, va indicar i li va preguntar a la investigadora Alejandra López: “Què ens pot aportar la intel·ligència artificial? En què ens pot ajudar a millorar l’educació?”.

La investigadora va destacar tres principals aplicacions de la intel·ligència artificial en educació, assenyalant també els problemes associats a cadascuna d’elles. En primer lloc, va mencionar l’avaluació automàtica, que pot ajudar a simplificar la correcció d’exàmens, però va assenyalar que el processament automàtic també podria mancar de transparència i de justificació en les qualificacions. 

Després, va fer referència a les eines de personalització de l’aprenentatge, que permeten adaptar el contingut segons el coneixement i preferències de l’estudiant, però va advertir que és important que aquestes eines es dissenyin en col·laboració interdisciplinària, amb experts en educació i psicologia. També va mencionar la possibilitat que ofereixen models d’intel·ligència artificial, com ChatGPT, per identificar biaixos en el llenguatge. Finalment, va parlar de l’ús de models de predicció per optimitzar el rendiment grupal, destacant la dificultat de crear models senzills i complets al mateix temps, i la importància d’involucrar els docents en el seu desenvolupament.

Per saber-ne més:

  • Consulta en aquest enllaç la gravació del diàleg “Com navegar entre la prudència i l’eufòria col·lectiva que genera l’ús de la IA?”
  • Descarrega aquí el díptic informatiu amb lectures, reflexions i recursos activables a l’aula sobre l’ètica i la IA en contextos educatius.
  • Visualitza aquí el reportatge fotogràfic corresponent al diàleg.

El pensament crític, l’últim dic de contenció

Pel Doctor en Filosofia Joan Manuel del Pozo, “hem de treballar intensament per promoure el pensament crític, ara encara més, i entrar en diàleg”. Per a ell, és important recordar sempre que “La IA és un instrument grandios, però és només un instrument, no una fàbrica de finalitats. Les finalitats han d’estar sempre subjugades al que nosaltres volem servir”.

En aquest sentit, va afirmar: “L’algoritme no és màgic, sembla màgic. En veritat, és producte de la intel·ligència natural humana i té els seus vicis, els seus biaixos, prejudicis, falsedats”. I va assenyalar: “Tenim l’obligació de legislar. Hem de garantir la utilització correcta de les nostres dades. No podem dependre de l’autoregulació del mercat”.

“Darrere de cada algoritme, hi ha persones que tenen una responsabilitat”, va coincidir la investigadora Alejandra López i va apuntar: “un problema de la IA és el d’acostumar-los a la delegació de la responsabilitat. Confiar en ella és erroni, pot ser un suport, i fins i tot un suport importantíssim. Però és un error educatiu i ètic delegar en ella”.

Per a ella, “el pensament crític és la clau. Tota la societat hauria d’intentar formar part d’aquesta conversa i de pressionar els líders perquè accelerin aquesta legislació”.

Un problema de la IA és el d’acostumar-los a la delegació de la responsabilitat. Pot ser un suport, però és un error educatiu i ètic delegar en ella /Alejandra Lopez

Tastets d’experiències i tallers

En finalitzar l’esdeveniment, els participants van tenir l’oportunitat de triar entre tres propostes liderades per educadors, per explorar el paper de la intel·ligència artificial en l’educació. La primera, “Com fomentar el pensament crític i la cocreació assistida amb IA?”, va ser dirigida per Christian Negre, i es va centrar en activitats per introduir la IA als estudiants de l’ESO, fomentant el pensament crític i les habilitats de col·laboració.

La segona proposta, liderada per Laura Ortiz, va proposar aprofitar el potencial de la IA per estimular l’entusiasme de l’alumnat. El taller es va centrar en la creació d’un text narratiu i la seva estructura, utilitzant aplicacions per donar vida a les històries creades. Finalment, Roger Codina va ensenyar com funcionen els models d’IA i com els estudiants poden crear les seves pròpies eines, abordant críticament els aspectes ètics d’aquesta tecnologia.

Per saber-ne més:

  • En aquest enllaç pots consultar els materials del taller: Com fomentar el pensament crític i la cocreació assistida amb IA?, d’en Christian Negre. Visualitza aquí el reportatge fotogràfic corresponent a aquest taller.
  • En aquest enllaç pots consultar els materials del taller: Com aprofitar el potencial de la IA per estimular l’entusiasme de l’alumnat?, de la Laura Ortiz. Visualitza aquí el reportatge fotogràfic corresponent a aquest taller.
  • En aquest enllaç pots consultar els materials del taller: Com ensenyar a crear eines d’IA al teu alumnat?, d’en Roger Codina. Visualitza aquí el reportatge fotogràfic corresponent a aquest taller.

Posts relacionats

Participa

    Accepto que es tractin les meves dades per atendre la sol·licitud d'informació*Accepto que es tractin les meves dades per rebre el butlletí (opcional)

    Missatge enviat correctament.
    Hem enviat una còpia al correu electrònic que ens has facilitat
    Et respondrem tant aviat com sigui possible
    ';