Pau Garcia-Milà: «Imagini el mal que faria una màquina que respongués tot el que sap»

Aviat no farà xerrades perquè ja les farà la IA?

Ja m’he clonat, per això. Tinc un clon capaç de fer classes i xerrades, amb la meva mateixa veu i... amb els meus coneixements. És a dir, el mateix missatge que intento donar jo. O sigui que sí, es podria fer, tot i que on sé fins a quin punt se’n ressentiria el mateix acte, perquè la gent no anirà a veure una pantalla. Si treus la persona, la gent no hi anirà igual.

Potser aviat hi haurà un robot que serà igual que vostè, que la persona

Hi ha una xarxa social en la qual és tot mentida: vostè es crea un perfil i la IA crea milers de seguidors que fan comentaris a les seves publicacions. Darrere no hi ha cap humà, però el feliciten i l’animen tant, que li puja l’autoestima encara que tot sigui fals... i que vostè sàpiga que és fals. Mai ningú t’insulta, que és el que passa a la vida real (riu). Són tot lloances. Em sorprèn que una xarxa social així tingui l’èxit que té, però ja estic curat d’espants.

Si la IA fos intel·ligent de debò, no hauria d’insultar?

Pot insultar, però les IA que tenim a nivell de consumidor, tenen uns filtres, una mena de guarda-raïls que marquen que no pot sortir d’aquest espai. La IA, per exemple, sap fabricar una bomba, o sap escriure una carta amenaçadora, té aquest coneixement, però no li donarà. Perquè està fora d’aquests límits. El problema és que els hackers d’abans ens volien robar dades i coses així, i els hackers d’avui volen atacar la IA per fer que aixequi aquestes tanques.

Demanant-li, la IA va trobar arguments econòmics, científics i legals pels quals el millor era empresonar els pèl-rojos. Però és que si anàvem insistint, la mateixa IA n'aconsellava la castració química i la reclusió en camps de concentració

Sona perillós.

Imagini el mal que podria fer una màquina que respongués tot el que sap! Per això és més llaminer atacar una IA que atacar un humà, per més ric que aquest sigui.

Una intel·ligència sense emocions podria ser diabòlica?

Al centre d’investigació vam decidir buscar un grup humà que fos identificable visualment i que mai hagués estat subjecte a persecució. No n’hi ha gaires, les races i religions ho han estat en un moment o altre. Al final, vam trobar un grup que on havia estat mai perseguit: els pèl-rojos.

No doni idees, ara sortirà algú a perseguir-los.

He, he, buscàvem un grup així perquè vam fer que la IA creés lleis que justifiquessin erradicar els pèl-rojos, i que expliqués per què això era el millor per la societat. Doncs bé, la IA va trobar arguments econòmics, científics i legals pels quals el millor era empresonar els pèl-rojos. Però és que si anàvem insistint, la mateixa IA n'aconsellava la castració química i la reclusió en camps de concentració.

La IA no serà mai aplicable allà on el que ens emociona és la possibilitat de l'error, i això tant serveix per a la Fórmula 1, pel futbol o per un concert

(Riallada).

M’agrada que es parteixi vostè de riure per una cosa tan xunga. La IA va fer exactament el que van fer els nazis: demostrar que la gent estava malament per culpa de determinat col·lectiu, i així poder matar-los legalment. Vam triar precisament un grup que no hagués estat perseguit, per evitar que la IA copiés lleis que havien existit. Això demostra que el potencial mal de la IA és elevat, i confirma el perill que caigui en mans dels dolents. Necessitem molta protecció.

Això vol dir protegir-nos dels governs, que són els que tenen capacitat de promulgar lleis dictades per la IA?

Els governs ja són la cursa per la IA, la història ha tingut curses semblants, com la de la bomba atòmica o l’arribada a la lluna. La cursa per la IA és més defensiva que per atacar. Si EUA no entra en guerra amb Rússia és perquè tots dos tenen similar capacitat nuclear, i amb la IA passa una mica igual: la raó perquè tots els governs hi inverteixen és que ningú vol ser l’única potència que no tingui tecnologia IA.

Hi ha algun camp on cregui que la IA no serà mai aplicable?

Allà on el que emociona és la possibilitat de l’error. Per exemple, ja existeixen cotxes autònoms, però se’m fa estrany pensar que veurem mai curses de Fórmula 1 sense pilot. Perquè el que ens emociona és la vida del pilot, les seves circumstàncies i la possibilitat que s’equivoqui, sortint de la pista o xocant amb un altre. Fins i tot el morbo que es poden matar. Soc un gran seguidor de la Fórmula 1, i les últimes morts que hi ha hagut, han sigut per errors aliens al pilot, com ara una grua que no havia d’entrar a la pista i s’hi va estavellar el cotxe. La possibilitat de l’error propi o d’un tercer és el que ho fa emocionant, i això tant serveix per a la Fórmula 1, pel futbol o per un concert. Una màquina tocarà perfecte un solo de violí, però serà com escoltar una gravació.

Si una empresa dotés la IA d’emocions, la quantitat d’atacs que tindrà de l’entorn del seu propi client, és molt més gran que el benefici que en podria treure

La pregunta al revés: hi ha alguna utilitat de la IA en el dia a dia que sovint ignorem?

La seva major utilitat és automatitzar la part de la nostra feina que no ens agrada, però la qual ens hem acostumat a fer. La meva mare va fer fa poc 72 anys i li vam regalar una roomba, però està tan acostumada a netejar ella la casa que no la volia de cap manera, perquè on ho faria bé. Li vaig dir que la provés un dia. Em va trucar l’endemà, meravellada, dient-me que, mentre esmorzava, la màquina li havia fet quasi tota la feina. Ella no gaudia netejant la casa, però era part de la seva rutina. A la feina ens passa el mateix, hi ha coses que les fem quasi per memòria muscular, que no recordem que no ens agraden, i el dia que podem deixar de fer-les perquè les fa una màquina, diem «quina merda que era, fer això».

Arribaran les màquines a tenir sentiments... o alguna cosa semblant?

No ho crec, perquè cada vegada hi ha més consens respecte que humanitzar la IA i dotar-la d’emocions, és un espai que no convé. És evident que hi ha espais que no convenen i que s’envaeixen igual com fabricar armes nuclears, però és que si l’altre ho fa, ho haig de fer.

Algú va dir que, en ciència, tot el que es pot fer, es fa.

Cert, però dotar d’emocions la IA no convé en el sentit més materialista. Si una empresa dotés la IA d’emocions, la quantitat d’atacs que tindrà de l’entorn del seu propi client, és molt més gran que el benefici que en podria treure. L’impacte negatiu seria molt més que el positiu. És millor treballar a millorar la perfecció de la IA. Al final les coses es miren amb perspectiva d’empresa, o de govern, i seria ruïnós invertir a dotar la IA d’emocions o sentiments.

Es casaria amb un robot?

No, perquè ja estic casat (riu).

El tema no és clonar una veu, el tema és que ho he fet en nou segons, i tothom regala més de nou segons de la seva veu, un dia qualsevol. Només responent a una trucada, ja li poden gravar i clonar la veu

En ser una màquina, no es consideraria bigàmia.

He, he, ni així.

Encara que no tingui sentiments, la IA ens pot enganyar?

Ja avui en dia, amb nou segons de veu, se la pot clonar. Avui aquí, a l’auditori, he clonat la veu d’un noi, i després he fet que aquesta veu insultés, digués bestieses, etc. La gent ha flipat, sentia la veu del noi i la que he generat jo, i era igual. El tema no és clonar una veu, el tema és que ho he fet en nou segons, i tothom regala més de nou segons de la seva veu, un dia qualsevol. Només responent a una trucada, ja li poden gravar i clonar la veu. I ja s’estan fent proves de clonar una veu gravant-li només una síl·laba, un simple to.

Subscriu-te per seguir llegint