El pànic que genera la IA

El primer col·loqui del Sónar +D aborda els pròxims reptes de la intel·ligència artificial en relació amb les arts i les indústries culturals.

Assistents en un estand del Sónar +D

Assistents en un estand del Sónar +D / Jordi Otix

Alba Giraldo

La intel·ligència artificial genera pànic a gran part de la població. Acabarà amb la humanitat si es desenvolupa massa aquesta tecnologia? Superarà la ment humana en un futur pròxim? El col·loqui que va obrir el Sónar +D dijous va reflexionar i va debatre sobre la realitat actual i els reptes de la IA de cara al futur en el món de les arts i les indústries culturals.

Moderat per Eduard Alarcón, investigador i professor de l’escola BarcelonaTech de la Universitat Politècnica de Catalunya, i la comissària del Sónar +D, Antònia Folguera, el professor de Filosofia de la UB Manolo Martínez, l’escriptora i investigadora en el col·lectiu barceloní Domestic Data Streamers Marta Handenawer, la professora d’Informàtica Creativa a la University of the Arts London Rebecca Fiebrink, la periodista Marta Peirano i l’enginyer i doctor en física Artur Garcia van analitzar el sector. Per què la gent tem la IA? Segons Peirano, el pànic té més a veure amb la indústria que amb la tecnologia. La periodista assegura que actualment la IA es basa en mites aprofitats per les empreses de tecnologia. El primer és que «podem esgotar el planeta perquè la tecnologia ens salvarà en l’últim minut» i el segon, que «en el moment en què creem una cosa que ens salvi, el primer que farà serà exterminar-nos». Per la seva banda, Garcia va assegurar que una de les raons que hi ha darrere d’aquesta por és que aquesta tecnologia sembla «molt humana» i va reconèixer que «amb la IA hi haurà problemes difícils en el futur».

Handenawer, que està desenvolupant un projecte dirigit a ajudar amb les seves memòries a través de la IA persones que tenen demència o Alzheimer, va admetre que fa dos anys tenia pànic sobre com afectaria la intel·ligència artificial en la indústria, però el seu punt de vista ha canviat. «Necessitem ser específics parlant de la IA perquè de vegades la tractem com una cosa molt àmplia. Cal buscar els problemes i veure com l’art pot tenir-hi cabuda», va exposar. Així mateix, Martínez va manifestar que cal «refinar» aquesta tecnologia i buscar «l’equilibri».

Beneficis i limitacions

La IA no ha de ser «explotadora». Segons Fiebrink, aquesta tecnologia «redueix la barrera perquè les persones que tenen menys coneixements facin música» i «pot portar noves pràctiques musicals» fins ara desconegudes. Tot i que es va parlar molt sobre els plagis i les còpies d’altres peces artístiques, l’experta va assegurar que els músics estan entrenant aquests models amb les seves pròpies dades i crear un model més ètic. «Hi ha més coses darrere de la IA de les que sabem ara», va exposar.

Però la IA no és perfecta i té les seves limitacions o «al·lucinacions», paraula que s’utilitza dins del sector. Aquest concepte fa referència a la informació que ofereix el sistema, que, tot i que estigui compartida de manera coherent, presenta dades incorrectes o esbiaixades. Com quan la IA parla d’un llibre que no existeix o dades històriques que realment no es van produir. Peirano va voler incidir en el fet que és una paraula que s’utilitza de forma incorrecta perquè fa «creure que el model està pensant» i realment «només pots al·lucinar si tens cervell». «Per mentir és necessari saber la veritat», apunta, i per això, com que la IA no té connexió amb la realitat, les dades estan «atrapades en un món de nombres» que reprodueixen els coneixements que tenen fins aquell moment.