«Podem aprofitar tot el potencial de la IA sense renunciar a la privacitat»

Convençuda que IA i ètica poden conviure, el seu treball demostra que ens queda un camí per recórrer que, en la seva opinió, val la pena pel molt que pot aportar a avanços com la medicina, entre altres. La investigadora, una de les veus internacionals més prestigioses sobre intel·ligència artificial, adverteix dels riscos de confiar en els bots en situacions de crisis i reclama majors controls per a protegir menors i usuaris vulnerables.

Quan va sentir el concepte d’intel·ligència artificial per primera vegada?

Durant tercer de carrera, quan una professora em va oferir escriure un article científic per a un congrés universitari internacional i vaig triar escriure sobre xarxes neuronals.

Què li va atreure per a dedicar-se a la seva recerca?

La fascinació per la ment humana i per les possibilitats que ens brinda la intel·ligència artificial per a ajudar-nos.

A l’estiu, la IA se’n va de vacances?

No (somriu). És un dels factors que també estan tenint impacte en la relació entre les persones i la intel·ligència artificial, perquè evidentment a diferència dels humans que ens cansem, que dormim, que mengem i que ens n’anem de vacances, els models d’IA no ho fan i sempre estan disponibles per a atendre les nostres peticions.

Em consta que és una persona reservada davant aquesta mena de xats conversacionals i que no facilita dades personals. Per què no ho hem de fer la resta?

Perquè una vegada compartim informació personal en el món digital, perdem el control sobre ella i, amb alta probabilitat, serà utilitzada per a entrenar altres models d’IA. La meva recomanació és no introduir en un bot cap dada personal, sensible, confidencial o que pugui identificar a una persona. Podem aprofitar tot el potencial de la IA sense renunciar a la nostra privacitat. La millor protecció continua sent compartir únicament la informació que sigui realment necessària.

És una les veus autoritzades que ha defensat que no tot val en la IA, però som els europeus els únics capdavanters o aquesta visió la comparteixen els seus col·legues d’altres continents?

La preocupació per desenvolupar una intel·ligència artificial ètica i responsable no és exclusiva d’Europa. És cert que Europa ha estat especialment activa a l’hora de traduir aquests valors en regulació, com demostra la Llei Europea d’IA (AI Act) i que fundació Ellis Alacant [de la qual és directora i cofundadora] ha estat pionera a estar enfocada en aquests aspectes. En altres països, com els Estats Units, l’impuls ha vingut més des de la recerca, la indústria o iniciatives voluntàries, mentre que la Xina té un enfocament regulador diferent, més vinculat a les seves prioritats estratègiques i de governança.

Va participar en una recent recerca internacional que relaciona IA i salut mental que va demostrar els riscos de donar credibilitat als bots davant situacions de crisis, com a suïcidis, es referien a públic jove sol?

No. Encara que els joves poden ser especialment vulnerables perquè utilitzen aquestes eines amb molta freqüència i tendeixen a establir relacions de confiança amb la tecnologia, el risc no es limita a ells. Qualsevol persona que travessi una situació d’ansietat, depressió, solitud o una crisi emocional pot arribar a concedir a un bot una autoritat o una empatia que realment no té. Els models d’IA poden oferir informació útil o un primer suport, però no comprenen les emocions ni substitueixen el criteri d’un professional de la salut mental.

Va exposar que hi ha pares que han denunciat a aquestes empreses. Tenen recorregut?

Crec que aquestes denúncies sí que tenen recorregut, encara que jurídicament seran complexes. Si un model detecta senyals clars de risc i no respon de manera adequada, o fins i tot reforça conductes nocives, és raonable preguntar-se si va existir una negligència en el seu disseny. Més enllà del resultat d’aquestes demandes, que dependrà de cada cas concret, probablement tindran un efecte molt rellevant: accelerar la definició d’estàndards de seguretat, transparència i rendició de comptes per a la IA. Igual que avui exigim normes estrictes de seguretat per a medicaments, automòbils o joguines infantils, hem d’exigir-les també per a sistemes d’IA que mantenen converses amb milions de persones, especialment amb menors.

Hauria d’existir un filtre d’edat o similar per a accedir a una IA generativa com un ChatGPT per a menors?

Crec que sí, encara que no n’hi ha prou amb establir una edat mínima. A més de mecanismes de verificació, és important que existeixin versions adaptades per a menors, amb límits d’ús, controls parentals i mesures de seguretat reforçades. Una cosa similar succeeix amb les persones majors. Alhora, hem d’ensenyar a utilitzar aquestes eines de manera crítica i responsable. L’alfabetització en intel·ligència artificial serà tan important com ho va ser en el seu moment l’alfabetització digital.

Si no podem comptar amb el sentit comú dels éssers humans, s’ha d’entrenar a la IA sobre la frustració?

La frustració forma part de l’experiència humana, però la IA no la sent ni necessita experimentar-la per a ser útil. El que sí que hem de fer és entrenar-la per a reconèixer quan una persona pot estar frustrada o en una situació de risc i respondre de manera adequada, segura i responsable.

Subscriu-te per seguir llegint