«La IA em va dir que la capital de França era Berlín... i era una veritat»

Premi Princesa de Girona 2014, Ignasi Belda va ser entre 2024 i 2025 director de l’Agència Espanyola de Supervisió de la Intel·ligència Artificial (AESIA) i actualment lidera el laboratori tecnològic del Banc d’Espanya. Enginyer informàtic, doctor en Intel·ligència Artificial aplicada a la Biomedicina i doctor en dret econòmic de la tecnologia, va ser dilluns a la Fundació Princesa de Girona per parlar d’Intel·ligència Artificial.

Es va fer expert en IA perquè la IA no el deixés sense feina?

No, no. Em vaig fer expert en intel·ligència artificial perquè m’agradava la disciplina, pensava que era molt emocionant. Quan vaig començar en aquest camp fa trenta anys, encara hi havia molt per descobrir, això era molt emocionant com a científic i com a tecnòleg.

Qui té por de la IA?

La gent que li té por és la gent que no la domina, perquè sempre tenim la por al desconegut. La gent que la domina, que la coneix, que sap com fer-la servir per ser més productiu i per aportar més a la societat, no ha de tenir gens de por.

Encara no ens en podem fiar totalment de la Intel·ligència Artificial

Hi ha gaire gent que sap fer-la servir?

Cada cop més i quan parlo amb joves, déu-n’hi-do. Jo tinc fills petits i la saben fer servir molt bé. No perquè els hagi d’ensenyar jo, sinó perquè ja han desenvolupat aquestes capacitats de forma natural.

Als de la meva generació, això ens supera?

No, no, això és un tren que ha arrencat fa un parell d’anys. La IA generativa ha democratitzat l’accés a aquesta tecnologia. És cert que el tren ha començat a funcionar, però encara està passant per l’estació, encara hi podem pujar.

Ens en podem fiar totalment de la IA?

No, encara no. Per això és tan important tenir un sentit crític, un pensament crític i tenir aquesta base general de coneixement. Perquè la intel·ligència artificial ens pot donar una veritat, però no necessàriament és la veritat absoluta, és una veritat parcial. No vol dir que sigui incorrecta, però potser no és la veritat que necessitem per solucionar un problema.

Hem d’estar dominant la IA I no al contrari, de la mateixa manera que hem aconseguit que som nosaltres qui fem servir els vehicles, els cotxes, els telers per ser més productius, però no al revés

Per curiositat, he buscat sobre mi mateix i no n’ha endevinat quasi ni una.

A vegades quan busquem noms concrets no n’enganxa ni una, com vostè diu. Però no només. Un dia vaig fer un experiment que era preguntar-li a la IA quina era la capital de França i em va dir que era Berlín. I li vaig dir, com que Berlín? És París. I em diu, no, perquè durant la Segona Guerra Mundial els alemanys van conquerir França i des de tal mes, fins a tal mes, la capital de França era Berlín. És a dir, era una veritat, però no era la veritat que jo buscava. Hem de tenir pensament crític per saber quan està bé i quan no.

No hi ha el perill que amb l’ús de la intel·ligència artificial estiguem creant una generació d’idiotes?

Això és absolutament fals. De la mateixa manera que algú hagués pogut pensar fa cent anys que el fet de tenir màquines generava una societat de ganduls, no? Ara tenim unes capacitats, en aquest cas intel·lectuals, ampliades. Per tant, nosaltres hem d’estar a l’aguait, hem d’estar dominant la IA I no al contrari, de la mateixa manera que hem aconseguit que les màquines no ens dominin, sinó que som nosaltres qui fem servir els vehicles, els cotxes, els telers per ser més productius, però no al revés.

Si la IA és tan intel·ligent, ens acabarà dominant, una mica com a la pel·lícula 2001?

Això són pel·lícules i distopies del cinema. Sens dubte és un risc que com a societat hem d’evitar. Hi ha moltes polítiques públiques al respecte perquè això no acabi passant mai, però ni de lluny.

Quina és la idea més falsa que tenim de la IA?

Molta gent pensa que la IA és una cosa màgica que desenvolupa respostes a les nostres inquietuds. Com deia un savi, tota tecnologia que desconeixem ens pot semblar màgia. La IA no fa més que copiar fil per randa els sistemes neuronals que Ramón y Cajal va descobrir fa exactament cent anys, està copiant el mateix que fa el nostre cervell. Així hem aconseguit grans supercomputadors, imitant d’alguna manera la intel·ligència natural, ja que el nostre cervell és un gran supercomputador.

La IA no fa més que copiar fil per randa els sistemes neuronals que Ramón y Cajal va descobrir fa exactament cent anys, està copiant el mateix que fa el nostre cervell

Les empreses la fan servir adequadament?

Pel que he vist, majoritàriament les empreses utilitzen la IA de forma positiva, ètica i responsable per augmentar la capacitat productiva dels seus treballadors, ampliar la seva base de clients, etc. La llei europea, que va entrar en vigor en 2024, prohibeix determinats usos de la intel·ligència artificial i quan jo estava al càrrec de l’Agència Nacional, no vam trobar cap empresa que utilitzés la IA en aquests casos prohibits.

Què està prohibit?

Per exemple, reconèixer emocions dels treballadors en el lloc de treball està prohibit. També ho està que la policia usi la IA per fer prediccions de delictes. Hi ha 8 usos prohibits, i potser d’aquí a poques setmanes n’hi haurà 9.

Quin serà el novè?

El novè que està debatent al Parlament Europeu és la utilització de la IA per a generar falsos nus, el que en anglès diem deep nudes. És a dir, agafar la foto del meu veí o de la meva veïna, posar-la a la IA i despullar-la.

Això encara és legal?

Això encara no està prohibit. Però és més que probable que en les pròximes setmanes es prohibeixi. n

Subscriu-te per seguir llegint