IA (III): les grans bases de dades

Al El infinito en un junco, Irene Vallejo explica que quan Alexandre el Gran conqueria un territori una de les coses que feia era intentar trobar tots els llibres on es trobava el saber d’aquell lloc; volia acumular el coneixement del seu temps. No tinc referències que això s’hagués intentat anteriorment, però el que reflecteix l’exemple d’Alexandre el Gran és que aquesta voluntat de saber-ho tot ve de molt antic. Ara la mania de digitalitzar les coses s’ha convertit en regla. Per als científics és un fet. Totes les revistes científiques per pocs diners t’ofereixen les seves versions digitals, com els periòdics o les editorials. Molts centres de recerca han eliminat les biblioteques; la majoria d’articles científics de revistes importants, fins i tot anteriors a l’era digital, es troben a la xarxa i, per tant, no té sentit conservar les còpies en paper. Es tenen subscripcions digitals de la majoria de les revistes i, si vols còpies en paper, només has de buscar l’article que t’interessa i imprimir-lo. Per posar un exemple, la meva tesi doctoral, presentada el setembre del 1974 a la Universitat de Barcelona i escrita en una màquina d’escriure i amb els símbols a mà, es pot trobar en un dels fitxers digitalitzats on hi ha les tesis doctorals.

La mania de tenir-ho tot digitalitzat ha portat a crear les gigafactories de dades, bases de dades on s’intenta tenir el major nombre d’informació sobre tots els temes; tornem a Alexandre el Gran, estenent-ho ara també a les dades personals. Per fer-ho, no cremem els llibres, com a Fahrenheit 451, però sí que destruïm llibreries i llibres per digitalitzar-los. Volem que tot passi per les macrobases de dades, sense tenir en compte drets d’autor, recollint dades personals, la qual cosa ens fa més vulnerables, entre altres conseqüències. Els cercadors, com Google, ens permetien fer preguntes i ens enviaven a unes adreces, uns URL, on podíem trobar la informació que buscàvem ordenada per l’algoritme corresponent. Ara, els models de llenguatge d’intel·ligència artificial, els sistemes que va popularitzar ChatGPT, dissenyats per generar text de manera natural responent a les demandes de l’usuari, quan busques qualsevol cosa ja et fan un resum del que vols saber; ja ens donen la «seva veritat», la que genera ChatGPT, presentada sovint com si fos la veritat a seques.

Hi ha tres temes que em preocupen. El primer és el de les dades que acumulen aquestes gigafactories. No distingeixen entre dades públiques, dades restringides per drets d’autor o d’empresa i dades personals; agafen el màxim d’informació possible sense cap restricció. Ara mateix la Junta d’Andalusia acaba de ser sancionada per la firma de convenis amb Microsoft i Google pels quals intercanviava dades d’alumnes, professors i centres educatius a canvi de poder utilitzar certes plataformes de les companyies. El segon és que el seu mètode de raonament és per similitud, per semblança amb els casos que tenen a la base de dades. Quan plantegem una situació, busquen els casos més semblants i els fan servir per donar-nos una resposta. Hi ha un experiment que evidencia que no ens en podem fiar del tot. Presentem un joc d’escacs amb «trampa»: canviem l’alfil i el cavall de posició i li demanem que jugui. El sistema juga com si les peces no s’haguessin canviat perquè, a la seva base de dades, el cas més semblant és un joc d’escacs normal; per tant, decideix fer servir partides convencionals per decidir com jugar.

La tercera qüestió, i la més important, és que aquests sistemes es presenten com si donessin, no una resposta, sinó la resposta, cosa que porta a confusió. Ni aquests sistemes, inaugurats per ChatGPT, entenen el que llegeixen ni tenen una comprensió real del llenguatge: treballen amb patrons estadístics. Això els permet donar respostes correctes a preguntes simples —com una biografia, una dada històrica o informació que ja es troba a la base de dades—, però no sempre encerten en qüestions complexes i poden ser poc fiables en temes ideològics, en què sovint reflecteixen biaixos presents en les dades d’entrenament. Finalment, es presenten com un oracle, com a posseïdors de la «veritat», quan el màxim que ofereixen són respostes que hem de matisar amb el nostre sentit crític.

A més a més, aquestes gigafactories de dades necessiten unes quantitats enormes d’energia i d’aigua que no sé si ens podem permetre. La gigafactoria d’Amazon a Aragó (en construcció) tindrà un consum energètic gairebé equivalent al de la ciutat de Barcelona o al consum de tot Aragó, i un consum d’aigua similar al de 550.000 llars.

Tot això vol dir que m’oposo a les gigafactories? No sé què dir. Però el que sí que sé és que, sense regles de control, em semblen una barbaritat. Si no hi posem límits, poden acabar condicionant el nostre pensament. I això ja sabem on condueix.

Subscriu-te per seguir llegint