Avui dia, que vivim en un món de dades, i què es fa amb elles pot afectar a milers de persones, és molt important parlar de l’ètica de les dades. Però què és?

Doncs si ens centrem a definir el primer terme, ètica, sabem que és una branca de la filosofia que estudia la conducta humana, el que és correcte i el que no, etc. i sabem que dintre de l’ètica, hi ha diferents branques, com l’ètica normativa (normes d’interès comú), i l’ètica aplicada (normes morals per camps específics).

Ara que sabem que és l’ètica, podem definir que és l’ètica de les dades. És un conjunt de normes, basades en els problemes relacionats amb les dades, algoritmes i corresponents pràctiques. Com aquest camp (l’ús de les dades) és bastant nou, encara avui dia s’estan definint aquestes normes ètiques, però a partir de les normes comunes, en molts casos, ja sabem quan s’estan utilitzant per fer el bé o no les dades.

La intel·ligència artificial (IA) consisteix, en grans trets, a entrenar algoritmes amb dades que ja tenim, per aconseguir-ne de noves com per exemple a través d’imatges, identificar imatges de gatets; que un robot aprengui a caminar i a evitar objectes (les dades aquí seria la informació del seu entorn i les seves possibilitats de moviment); etc.

La intel·ligència artificial pot tenir múltiples aplicacions, algunes bones i d’altres dolentes. Per exemple, la IA pot servir per informar. Alguns exemples de IAs que serveixen per això són BotSentinel, que és un bot de Twitter que detecta perfils falsos, l’algoritme de Facebook, per detectar notícies enganyoses o IA que serveix per detectar quan una imatge està retocada.

Per l’altra banda, la IA també es pot fer servir per desinformar, com amb l’eina deepTweets, que genera tweets falsos, però escrits com la persona que s’ha de fer passar, o Faceswap (l’app d’invertir les cares), que es pot fer servir per fer veure que algú ha dit alguna cosa que no és. Això fa, però, que la IA sigui maligna, com a vegades vol reflectir la societat?

Si fem una cerca a la secció de notícies, per exemple, amb les paraules “Big Data”, “Algoritmes” o “Intel·ligència Artificial”, ens podem trobar titulars com els següents (diferents fonts, de diaris espanyols i internacionals, traduïts al català):

• “Les tecnologies basades en big data a vegades empitjoren la discriminació a causa de biaixos implícits a les dades”
• “Si està a la cuina, és una dona: com els algoritmes reforcen els prejudicis”
• “Els algoritmes reforcen prejudicis socials?”
• “Abandoneu tota esperança: així imagina l’infern la intel·ligència artificial”

Com aquests, trobarem mil exemples més.

I això us ho deixo com exercici: què creieu que ha pogut passar aquí?