"El mòbil és un cavall de Troia, i el portem alegrement a la butxaca"

Les guerres ja no es lliuren als camps de batalla (que també), sinó a la pantalla dels nostres mòbils, capaços de mostrar-nos la realitat distorsionada i fer-nos reaccionar en funció de foscos interessos. No és una teoria conspiranoica, sinó l’advertència que llança en el seu últim assaig -Un mundo falaz (Ariel)- el coronel de l’Exèrcit de l’Aire a la reserva Ángel Gómez de Ágreda. Aquest expert en ciberseguretat i guerra cognitiva ho té clar: la nostra supervivència com a espècie depèn que s’imposi un «ús ètic» de la intel·ligència artificial.

La tecnologia ha canviat el concepte que teníem de seguretat?

Totalment. D’entrada, ha desvinculat el perill dels factors geogràfics. A Finlàndia han canviat recentment el sistema educatiu i de defensa per protegir-se d’un país veí amenaçant, però Rússia no només pot envair el seu territori, sinó que també suposa una seriosa amenaça narrativa, pot atacar-lo per via cibernètica, i aquesta amenaça arriba igual de ràpid a Finlàndia que a Espanya. Hauríem de preparar-nos per a això, i no ho estem fent.

Una amenaça narrativa?

La seguretat d’un país ja no depèn tant que un veí l’envaeixi com que l’atacant aconsegueixi canviar el sentiment dels seus habitants fins que ells mateixos siguin els que acabin atemptant contra la seva pròpia seguretat sense adonar-se’n. Aquest és el moment que estem vivint. Estem passant de la postveritat a la postrealitat. Això ja no va de falsejar la realitat, va de crear una nova realitat, que la gent se la cregui i que acabi actuant en funció d’això.

I això es pot fer?

Tècnicament sí, i ja s’està fent. A més, amb un sorprenent grau de sofisticació. Hem abocat a la xarxa tantes dades personals que la intel·ligència artificial ja és capaç de crear missatges individualitzats per a cadascun de nosaltres i portar-nos a reaccionar com vulguin. El pla ja no és canviar la manera de pensar de 10 milions de persones de cop, sinó canviar-la de manera individualitzada sense que ningú se n’adoni. I resulta que avui ens refiem més del que veiem al mòbil que del que veiem per la finestra. Si et convenço que això que et mostro a la pantalla és la realitat, ja et tinc controlat.

"La veritable batalla avui es lliura al camp de les emocions"

Sorprèn tenir al davant un militar i estar parlant de psicologia, no d’armes o estratègies de combat.

Les emocions sempre han sigut decisives en les guerres, les tropes surten a la desbandada quan veuen el seu líder caigut. La novetat és que ara les emocions es poden alterar sense necessitat d’anar al camp de combat, de manera virtual. Compte, no parlo de percepcions, parlo d’emocions, que és el camp on avui es lliura la batalla. Canviar una percepció és molt fàcil, només fa falta un algoritme que generi un vídeo fals que t’enganyi. El següent pas, que és on som ara, és aconseguir que cada individu reaccioni de la manera que vulguem partint de la informació que tenim d’ell. És com activar per control remot una hormona en el seu organisme.

I això qui ho està fent?

Ho estan fent els estats que tenen capacitat tècnica per fer-ho i que tenen menys restriccions legals que els ho impedeixin. Per exemple, ho fa la Xina des de fa temps i ho fa Rússia, on acaben de prohibir WhatsApp i ara, per comunicar-te, has de registrar-te a Max, una plataforma que cedeix al govern les dades dels seus usuaris. Ho fan amb els seus ciutadans, però ho poden fer amb un país estranger, tot i que el veritable problema no és aquesta amenaça, sinó que aquest model està sent exportat als països del sud global, on cada vegada miren amb més bons ulls els règims autocràtics. No els parlis de democràcia, valors o drets humans, perquè la seva resposta és: el model xinès és més eficaç.

En el referèndum del Brexit, la consultora Cambridge Analytica va reconèixer que havia utilitzat dades d’usuaris de Facebook per enviar-los missatges manipulats i influir en els seus vots. Pensava que havíem après la lliçó.

Al contrari, el que va passar va ser: escolta, aquest sistema funciona, prenguem-ne nota per millorar-lo. Avui, Cambridge Analytica és una antigalla. Fixeu-vos que en les recents protestes de Minneapolis, els agents de l’ICE no preguntaven el nom als manifestants, simplement els enfocaven amb els mòbils, on portaven instal·lada una app de Clearview AI, una empresa privada d’intel·ligència artificial de dubtosa ètica que maneja 10.000 milions de dades de reconeixement facial. D’on creu que els va treure? Molt simple: els va obtenir gratis a partir dels milions de fotos que la gent va penjar a les xarxes socials.

Qui no ha pujat una foto a la xarxa?

Cada vegada que publiquem una dada personal, no és que en perdem la propietat, és que perdem aquesta part d’identitat que compartim. És com si deixessis el teu ADN solt. Algú, més d’hora que tard, podrà copiar-lo i suplantar-te, o podrà fabricar una arma per atacar específicament aquest ADN. En el moment en què la teva identitat es torna vulnerable, perds la teva capacitat per ser lliure.

Veig que tot passa pel mòbil. Què és realment un smartphone?

És un cavall de Troia i el portem alegrement a la butxaca. Ens sembla molt útil, però només n’obtenim el 10% de les utilitats, el 90% restant l’obté la companyia titular de la xarxa i les aplicacions que hi portem. Aquests són els veritables amos del teu mòbil, no tu.

Què proposa? Que abandonem les xarxes socials, que deixem d’utilitzar el mòbil, que renunciem a la IA?

Només adverteixo que això està passant, més ràpid del que podíem imaginar, i animo que debatem sobre això. Necessitem una societat civil crítica que digui prou i exigeixi un ús ètic de la intel·ligència artificial. La IA està proporcionant grans avenços en terrenys com la salut i les comunicacions, però és una eina massa poderosa i hem de ser conscients d’on ens pot portar. A curt termini, em preocupa que pugui fer-nos perdre llibertat i identitat. A llarg termini, que acabi amb la humanitat. La història ens explica que els imperis no solen caure per invasions externes, sinó perquè s’acaben suïcidant. Temo que ens passi el mateix com a espècie.

Subscriu-te per seguir llegint