L’ONU posa la IA contra les cordes: vol obligar les tecnològiques a demostrar que és segura abans d’arribar als infants

La intel·ligència artificial avança a una velocitat que ja preocupa les principals institucions internacionals. En pocs anys, aquesta tecnologia ha passat de ser una eina reservada a sectors molt concrets a formar part de la vida quotidiana de milions de persones: s’utilitza per estudiar, treballar, crear continguts, buscar informació, prendre decisions i, cada vegada més, també per mantenir converses personals amb xatbots capaços d’imitar el comportament humà.

Davant d’aquesta evolució, l’Organització de les Nacions Unides (ONU) considera que el desenvolupament de la IA generativa no pot continuar avançant sense unes regles globals. El secretari general de l’organització, Antonio Guterres, ha reclamat una regulació internacional que permeti reduir els riscos d’aquesta tecnologia sense frenar-ne els usos positius.

«Una tecnologia capaç de remodelar les economies, transformar el món laboral, influir en les eleccions i alterar l’equilibri de la seguretat s’està implantant a un ritme tan ràpid que ningú, ni tan sols aquells que la creen, pot seguir-li el pas», ha advertit Guterres durant el primer Diàleg Global de les Nacions Unides sobre la Governança de la IA, celebrat a Ginebra.

El missatge del secretari general és contundent: «La innovació necessita mesures de protecció… Si la IA ha de ser poderosa, ha d’estar regulada».

L’ONU vol unes normes globals per controlar la intel·ligència artificial

La trobada impulsada per les Nacions Unides reuneix governs de diferents països amb l’objectiu de debatre unes normes harmonitzades que permetin controlar els riscos vinculats a la intel·ligència artificial.

Un dels punts centrals és evitar que cada país reguli la tecnologia de manera completament diferent, fet que podria generar buits legals i dificultar el control de les grans empreses tecnològiques.

Els delegats també analitzen el primer estudi científic global i independent sobre aquesta tecnologia, elaborat per un grup de 40 experts seleccionats per l’ONU. La voluntat és disposar d’una base científica comuna abans d’establir futures obligacions.

Els infants, una de les principals preocupacions

Una de les qüestions que més preocupa l’ONU és l’impacte que aquests sistemes poden tenir sobre els menors d’edat.

Els xatbots actuals poden conversar amb els usuaris, donar consells i generar respostes amb un llenguatge molt semblant al d’una persona. Segons Guterres, aquesta capacitat pot provocar que els infants i adolescents confiïn excessivament en les seves respostes o no siguin capaços de distingir amb facilitat entre una resposta fiable i una informació errònia o perjudicial.

L’ONU assenyala que ja s’han documentat casos relacionats amb problemes greus, entre els quals apareixen el suïcidi o els pensaments delirants, fet que ha reforçat les demandes perquè els productes basats en IA disposin de més controls abans d’arribar als usuaris més vulnerables.

Guterres vol obligar les tecnològiques a demostrar que els seus productes són segurs

Entre les mesures que defensa Antonio Guterres destaca una especialment rellevant: que les empreses tecnològiques hagin de demostrar que les seves eines d’IA són segures abans de posar-les a disposició dels infants.

El secretari general de l’ONU ho ha comparat amb els controls que ja existeixen en altres productes:

«No permetem que un medicament arribi a un infant fins que s’ha demostrat que és segur. Provem cada joguina. Tanmateix, la IA ha arribat als nostres fills —al seu aprenentatge, a les seves amistats, a les seves preguntes més íntimes— abans que ningú es preguntés quins efectes tindria sobre ells».

Aquesta idea suposaria un canvi important en el desenvolupament de la intel·ligència artificial, ja que traslladaria una part de la responsabilitat directament a les empreses: no n’hi hauria prou amb reaccionar davant dels problemes un cop apareguessin, sinó que haurien d’acreditar prèviament la seguretat dels seus sistemes.

Prohibir les imatges sexuals de menors generades amb IA

Guterres també ha reclamat prohibir els sistemes que permetin generar imatges sexuals de menors sense consentiment.

La capacitat de la IA generativa per fabricar fotografies i vídeos cada vegada més realistes ha obert nous riscos relacionats amb la manipulació d’imatges, els continguts sexuals falsos i altres formes d’abús digital.

L’objectiu de l’ONU és que aquestes pràctiques quedin clarament prohibides i que les plataformes i empreses responsables de les eines incorporin sistemes de protecció efectius.

L’ONU també alerta del poder acumulat per unes poques empreses

La regulació no només busca protegir els infants. Antonio Guterres també ha advertit sobre la concentració del poder tecnològic en un nombre reduït d’empreses i països.

Actualment, bona part del desenvolupament dels sistemes més avançats d’intel·ligència artificial està concentrat en grans empreses i especialment als Estats Units, una situació que, segons l’ONU, pot generar desequilibris econòmics, polítics i socials.

La preocupació és especialment significativa perquè aquestes tecnologies poden influir en el mercat laboral, l’economia, la informació que consumeixen els ciutadans, els processos electorals i fins i tot la seguretat internacional.

Per això, les Nacions Unides defensen que l’evolució de la IA vagi acompanyada d’unes normes comunes que estableixin límits, responsabilitats i garanties. El debat ja no gira al voltant de si la intel·ligència artificial continuarà expandint-se, sinó de fins on se li permetrà arribar i quins controls hauran d’assumir les empreses que la desenvolupen.