Fa uns dies es va difondre un vídeo de l'actriu Jennifer Lawrence rebent un premi Golden Globe. Al vídeo, l'actriu lluïa un bonic vestit vermell i un collaret de diamants de Chopard que les cròniques de l'acte van definir com espectacular. Des de l'escenari, Jennifer Lawrence contestava les preguntes dels periodistes. Però, era realment Jennifer Lawrence? Perquè el rostre de la dona del vídeo no era el de Jennifer Lawrence, sinó el de l'actor Steve Buscemi.

A aquesta classe de vídeos, en què un personatge apareix amb un rostre fals acoblat en lloc del seu propi, se'ls sol anomenar deep fakes. Es veu que es van originar en el món del porno per fer passar vídeos filmats en un estudi per vídeos protagonitzats per personatges famosos. I ara la tecnologia s'ha desenvolupat de tal manera que ja pot crear vídeos pràcticament perfectes en què la cara i el cos dels protagonistes no es corresponen amb els seus legítims propietaris. És a dir, que en aquests vídeos es pot atribuir a algú en concret el que ha fet una altra persona que no té res a veure amb ella. Suposo que ja s'imaginen les conseqüències devastadores d'aquesta classe de vídeos, i més ara que estem en campanya electoral. Si algú fa servir aquesta nova tecnologia, la candidata X o el candidat Z podran aparèixer en un vídeo d'escabrós contingut sexual (pedofília, sadomasoquisme, gore), o bé cobrant suborns o ficant-se el dit al nas o pegant una bufetada a un nen o escopint a un pobre refugiat. Qualsevol cosa que se li ocorri a la persona que manipuli el vídeo. I el mateix pot passar en un futur amb qualsevol de nosaltres. Si ja circulen mems en què es manipula la imatge de persones conegudes per burlar-se'n, imaginin el que passarà el dia -que ja és aquí- en què se'ns pot convertir en protagonistes de vídeos vergonyosos o clarament delictius. I sense ningú que pugui frenar la seva distribució, donat el ritme vertiginós al qual es difonen aquesta classe de vídeos per les xarxes socials.

No sé si algú s'ha preguntat per l'efecte catastròfic que aquestes deep fakes tindran en el futur de la democràcia representativa. I just quan sabem que un nou programa d'intel·ligència artificial -l'Open AI d' Elon Musk- ha creat un generador de textos que pot parodiar i reescriure textos a partir d'un text previ. És a dir, que aquest programa pot convertir aquest mateix text en un altre de diferent convenientment alterat i manipulat, que podria ser-li atribuït al seu autor amb totes les conseqüències que això pogués implicar. És cert que aquest generador de text pertany a Elon Musk, que és un personatge singularment mentider, de manera que potser no existeixi realment. Però tot indica que aquesta eina podrà existir en un futur molt pròxim. L'altre dia vaig estar usant Google Translate per traduir un poema meu a l'anglès, al francès i al català. La traducció al català era gairebé perfecta. A l'anglès era molt bona, tot i que no impecable. I al francès estava bé, encara que tenia encara tres o quatre errors d'embalum. Per descomptat que aquests traductors automàtics faran molt bé la seva feina en un o dos anys. I quan arribi aquest dia, adeu, traductors humans. Adeu, bells matisos que donaven vida a un bon poema o a una bona prosa.

Aquest és el món real en el qual vivim. Un món en el qual certs bancs es poden permetre el capritx d'acomiadar mil o tres mil treballadors per augmentar el seu compte de beneficis. Un món en el qual una aplicació gratuïta de Google farà la feina que ara fan milers d'empleats humans. Un món en el qual d'aquí a poc circularan vídeos de persones conegudes -o desconegudes- fent barbaritats que aquestes persones no han protagonitzat en absolut. I mentrestant, els nostres líders polítics segueixen jugant a les seves apassionants curses de sacs.