A l’era digital, on la recopilació, l’emmagatzematge i l’ús d’informació personal estan omnipresents a les nostres vides, és crucial protegir les dades i la privadesa. Però, quines conseqüències ètiques sorgeixen quan la intel·ligència artificial (IA) i les plataformes digitals recopilen grans quantitats de dades en entorns educatius? Aquest tipus de tecnologies amplien la recopilació de dades en temps real, la vigilància i la manipulació de manera sense precedents. Aleshores, quin és l’equilibri adequat entre protegir la privadesa dels estudiants i utilitzar la tecnologia per personalitzar l’aprenentatge?

Nissenbaum (2004)1 advoca per la “privadesa contextual”, un enfocament ètic en la gestió de dades que es basa a considerar principalment el context en què es recopilen i utilitzen les dades. En el context educatiu, la recopilació de dades pot tenir un propòsit legítim, com ara personalitzar l’ensenyament i el contingut per satisfer les necessitats individuals dels estudiants. No obstant això, aquesta recopilació de dades també pot creuar límits ètics si no es fa servir amb precaució. Les IA i les plataformes digitals poden generar perfils detallats dels estudiants, cosa que planteja inquietuds sobre la invasió de la privadesa i l’ús indegut de la informació personal per a fins comercials.

La recopilació de dades per part de les plataformes educatives digitals és un tema que requereix una atenció ètica, ja que la vigilància constant i la recopilació d’informació sobre els estudiants poden generar preocupacions legítimes al voltant de la vulneració dels seus drets a la privadesa i la seguretat de les vostres dades personals. Un dels aspectes més delicats és la capacitat de les IA per analitzar el comportament dels estudiants i prendre decisions que poden influir en el futur personal, social i laboral. Com podem, doncs, assegurar-nos que les IA i les plataformes digitals a l’educació es desenvolupin i utilitzin de manera ètica i transparent? És essencial que la presa de decisions algorísmiques sigui transparent i subjecta a auditories ètiques. Tal com assenyala O’Neil (2018)2, qui adverteix que els algorismes en l’educació poden amplificar biaixos i perpetuar desigualtats si no se supervisen adequadament.

Exemple d’això, el podem trobar a les manifestacions de famílies i estudiants recollides en la investigació realitzada en el marc del projecte: “ Plataformes digitals BigTech del sistema educatiu català i drets de la infància: amenaces i reptes” (Rivera-Vargas, P ., et Al., 2023) realitzat per l’aFFaC (Associacions Federades de Famílies i alumnes de Catalunya) i el grup de recerca Esbrina de la Universitat de Barcelona, les famílies van expressar inquietud per l’impacte potencial de les plataformes digitals educatives a les preferències, eleccions i comportament dels nens i adolescents en relació amb la constant exposició a la informació en línia i les xarxes socials afecta la formació de la identitat dels estudiants. A més, en aquest mateix estudi, els estudiants també van demostrar una certa consciència sobre el processament automàtic de dades per a la creació de perfils.

La interacció dels estudiants amb les plataformes educatives digitals i les intel·ligències artificials (IA) certament té un impacte significatiu en la construcció de la identitat i en la capacitat crítica per avaluar la informació. Pel que fa a la percepció de si mateixos, les plataformes educatives digitals sovint fan servir algoritmes per adaptar el contingut i les activitats d’aprenentatge en funció del rendiment i les preferències dels estudiants. Això pot influir en l’autoimatge i l’autoestima dels estudiants, ja que els algorismes poden destacar fortaleses i debilitats de manera constant. És fonamental que els educadors i les plataformes promoguin un enfocament equilibrat i encoratjador perquè els estudiants desenvolupin una autoimatge positiva i resilient.

A mesura que els estudiants interactuen amb les plataformes educatives digitals i les IA, el seu procés de subjectivació es veu modelat de manera única. Com Foucault (1982)3 planteja, la subjectivitat és un producte de la història i la cultura, i canvia contínuament segons el context en què es desenvolupa. La tecnologia influeix en la seva percepció de si mateixos, les seves habilitats i la relació amb el coneixement. La interacció constant amb les plataformes digitals i les IA pot tenir un impacte significatiu en la manera com els estudiants es perceben a si mateixos i en com es relacionen amb el coneixement. En aquest sentit, les plataformes d’aprenentatge en línia poden utilitzar algoritmes per recomanar contingut i activitats, cosa que pot influir en les preferències i percepcions de l’estudiantat com, per tant, es pot convertir en un dispositiu que subjectivice cap a certs valors pro mercat.

L’influx dels interessos del mercat a l’educació és un tema de preocupació creixent, i el seu agreujament es veu reflectit en la proliferació de plataformes digitals comercials a l’àmbit educatiu. En aquest context, les intel·ligències artificials (IA) i les empreses tecnològiques busquen maximitzar els seus guanys en introduir la tecnologia a les aules. Aquesta tendència planteja interrogants fonamentals sobre la privatització de l’educació i la pèrdua de valors socials a favor del mercat lliure. L’educació no s’ha de reduir a un mer producte al mercat, sinó que ha de ser considerada com un dret fonamental i un procés enriquidor per a tothom, per la qual cosa la mercantilització de l’educació planteja serioses amenaces a la igualtat d’accés IA la qualitat de l’educació, ja que tendeix a afavorir els qui poden pagar per serveis educatius premium .

En conclusió i en resposta a la pregunta inicial: Quin és l’impacte de les tecnologies digitals a l’educació ia la construcció de la identitat de l’estudiantat?, podem afirmar que l’impacte té a veure amb la relació causal entre les tecnologies digitals i la nostra identitat, és a dir, les tecnologies són un factor poderós de determinació de la subjectivitat de cada usuari d’aquests serveis. És fonamental, per tant, que nosaltres com a societat i els responsables de les polítiques en educació, ja sigui estatals i autonòmiques, es facin càrrec de l’impacte de les tecnologies digitals educatives a les subjectivitats de les i els joves i treballin en regulacions, pràctiques ètiques i lleis que garanteixin un equilibri adequat entre l’ús de la tecnologia i la protecció de la intimitat, la llibertat i els valors fonamentals en l’educació, és a dir, desenvolupar la integralitat de l’ésser humà.