La IA i el papa

En un món carregat de males notícies, la darrera encíclica del papa , per a creients i no-creients, és una bona notícia. El papa ha instat a no permetre que els amos de la intel·ligència artificial s’apoderin del control de la humanitat. El pontífex també tem que la IA pugui intensificar les guerres a la Terra. Lleó XIV ha publicat la seva primera encíclica dedicada a la intel·ligència artificial. Es titula Magnifica humanitas i sosté que la IA ha de servir la humanitat, no ajudar a concentrar el poder.

De forma resumida, que no estalvia una lectura completa, els principals punts del document, a parer meu, serien els següents:

La tecnologia no és una força hostil per a la humanitat ni un mal en si mateixa, però mai és neutral, perquè adquireix les característiques dels qui la desenvolupen, financen, regulen i utilitzen.

Les tecnologies no han d’estar en mans d’uns quants, ampliant la bretxa entre els qui participen en la revolució digital i els que en queden exclosos. A l’era digital, la justícia social exigeix garantir un accés just a les oportunitats per a totes les persones, protegir els més vulnerables, combatre l’odi i la desinformació, i sotmetre l’ús de la tecnologia al control públic, «perquè el principi rector no sigui només el benefici, sinó la dignitat de cada persona i el bé comú de tots».

Cal un enfocament vigilant cap a la IA. Les decisions no han d’estar dictades únicament per l’eficiència i el benefici. La IA pot imitar i simular l’ésser humà, però no té consciència moral, empatia ni capacitats espirituals o interpersonals. Hi ha d’haver responsabilitat en cada etapa del seu desenvolupament, dins de marcs legals adequats.

No es pot ignorar l’impacte de les noves tecnologies en el medi ambient, ja que requereixen grans quantitats d’energia i aigua.

La IA ha de ser desarmada, alliberada de la mentalitat de competència militar i econòmica: «Desarmar significa qüestionar la idea que la potència tecnològica dona automàticament dret a governar. No significa rebutjar la tecnologia, sinó evitar que domini la humanitat».

La IA genera noves formes d’esclavatge, inclosa l’extracció de minerals rars necessaris per a aquestes tecnologies. És necessari combatre aquestes noves formes d’esclavatge.

El papa també va criticar l’ús d’armes basades en IA, afirmant que «no hi ha cap algorisme que pugui fer moralment acceptable la guerra».

«La IA no elimina la inhumanitat inherent al conflicte; al contrari, només pot provocar conflictes més ràpidament i fer-los més impersonals, reduint el llindar per a l’ús de la violència, transformant la defensa en predicció d’amenaces i reduint així les víctimes a dades. D’aquesta manera, ens acostumarà a pensar que la violència és inevitable».

Cal recordar que la idea que la IA a les guerres modernes podria convertir-se en una «arma de destrucció massiva» prové de les mateixes empreses que utilitzen IA en tecnologies militars.

Subscriu-te per seguir llegint