La cara més fosca de la intel·ligència artificial: pornografia personalitzada i sense límits

“La intel·ligència artificial s'està convertint en una arma al servei de la violència digital contra les dones”. Així ho adverteix la coordinadora del projecte ‘Por No Hablar’, que té com a objectiu reflexionar sobre la influència de la pornografia en les relacions sexuals i alertar dels perills de la IA.

Idaira Alemán assegura que la fàcil accessibilitat a la intel·ligència artificial “ha facilitat que qualsevol persona, sense gairebé coneixements teòrics, pugui crear contingut pornogràfic fals a partir d’imatges de dones reals sense el seu consentiment”.

De fet, segons un informe de l’empresa de ciberseguretat Deeptrace, el 96% del contingut deepfake –imatges, àudios o vídeos falsos creats amb IA que permeten superposar rostres, canviar veus o imitar expressions o moviments de manera realista– està relacionat amb pornografia no consentida.

“La pornografia creada per IA elimina qualsevol límit previ”, subratlla Alemán, i afegeix que, ara, “n’hi ha prou amb tenir una foto o un vídeo per inserir una dona en escenes que mai ha consentit”. Aquests muntatges sexuals han proliferat a les xarxes socials i, segons l’estudi State of deepfakes 2023, aquell any es va produir un augment del 464%, sent les dones víctimes del 99% dels deepfakes pornogràfics.

Demanda de pornografia personalitzada

Un altre aspecte que explica l'auge dels deepfakes és la demanda de pornografia personalitzada, una pràctica en augment a Internet: “Només amb el rostre d'una persona es fabrica un vídeo a mida de les fantasies del demandant. Els límits entre el real i el fictici desapareixen i la dona es converteix en una mercaderia modelable a qualsevol perversió imaginada”.

Històricament, la pornografia s'ha consolidat com “un dels grans pilars de la indústria sexual”, íntimament lligada a “la prostitució i el tràfic de dones i nenes amb finalitats d'explotació sexual”. Segons Idaira Alemán, tots aquests són “negocis que s'alimenten entre si, que cosifiquen els cossos i es lucren amb la desigualtat”.

Si abans de la intel·ligència artificial la pornografia “ja havia traspassat gairebé tots els límits”, ara el missatge és encara “més potent i perillós”: “Ja no són persones desconegudes en una pantalla; ara pot ser la teva companya de classe, la teva germana o qualsevol dona coneguda qui aparegui en una escena fent exactament el que el demandant desitja”.

Mitjançant la pornografia personalitzada, “es controla” cada detall i es construeix “un imaginari sexual basat en el poder, la dominació i la humiliació”, sentencia la coordinadora de Por No Hablar.

La regla 'Rule 34'

“Si alguna cosa existeix o es pot imaginar, algú ja l'ha convertit en porno.” Aquesta és la regla del Rule 34, i també la manera com funciona Internet. “N'hi ha prou amb buscar el nom de qualsevol personatge infantil, com les princeses Disney, Sonic, Bluey o Pikachu, per trobar-ne versions sexualitzades”, afirma Alemán. L’experta recorda que això implica un accés per part de menors a aquest tipus de contingut, encara que sigui de manera no intencionada.

“Anem cap a una digitalització total del desig on tot es pot fabricar: cossos hipersexualitzats, escenes personalitzades o vídeos protagonitzats per qualsevol persona”, apunta Idaira Alemán, afegint que tot això es fa “sense consentiment i sense cap mena de límit”.

Segons ella, la intel·ligència artificial, lluny de convertir les xarxes socials en llocs segurs, les transforma “en espais perillosos, especialment per a adolescents i menors”, ja que, segons dades de l’organització WeProtect Global Alliance, entre 2020 i 2022 els deepfakes amb temàtica sexual infantil van augmentar un 360%.

Tot i així, l’experta reconeix que “un altre futur és possible”, i per aconseguir-lo, la intel·ligència artificial s’hauria d’utilitzar “per educar, protegir i construir altres imaginaris sobre el cos, el desig i el plaer”. La clau, diu, és crear espais on la tecnologia estigui “al servei del benestar comú i no del benefici econòmic o la dominació”.

“Hi arribem tard, però encara som a temps”

Idaira Alemán assenyala que, “encara que hi arribem tard, encara som a temps”. Segons ella, és “fonamental” una reflexió crítica sobre “per a què utilitzem les xarxes socials, quins imaginaris estem alimentant i quines conseqüències tenen sobre les relacions, especialment pel que fa a cossos, desigs i consentiment”.

A més, considera “necessari” parlar de pornografia i dels perills que comporta. Des del seu punt de vista, “si no s'intervé de manera urgent, ens encaminem cap a un escenari encara més perillós. El contingut pornogràfic serà cada cop més personalitzat i accessible. Es podrà fabricar qualsevol escena”.

Regulació i institucions

Pel que fa a les institucions, Idaira Alemán lamenta que “no estan prou informades ni conscienciades. Van darrere de la realitat i reaccionen tard i malament”. Els problemes que genera la intel·ligència artificial, en termes de violència digital, “són enormes i afecten especialment dones, nenes i adolescents, però les respostes no estan a l’altura”.

També denuncia que les plataformes digitals “no són espais neutres: tot funciona amb algoritmes per generar ‘clics’ i, encara que el contingut sigui violent, si atrau l’audiència, es mostra”. Així, considera que les xarxes socials esdevenen “còmplices”, ja que no només permeten la difusió de contingut pornogràfic, sinó que també “el promouen”.

Segons l’experta, la solució passa per implantar mecanismes de control reals, transparents i eficaços: “No tot s'hi val per aconseguir un clic. L’ètica no pot quedar en mans del mercat, i la manca de lleis clares, coordinades i efectives deixa milions de persones exposades”.

Pel que fa a la Unió Europea, la nova Llei d'Intel·ligència Artificial que promou l’organització és “un primer pas, però insuficient si no va acompanyada d’un compromís educatiu i polític molt més profund”. Tot i que l’objectiu de la legislació, aprovada el 2024 i que entrarà en vigor el 2025, és regular el desenvolupament, la comercialització i l’ús dels sistemes d’IA, Alemán subratlla que “una bona llei ha de protegir les persones i no les plataformes”.

Tot i que la Llei d’IA de la UE seria la primera gran regulació mundial sobre aquesta tecnologia, “una legislació sense valors no és suficient: cal protecció real, amb límits”. I insisteix que l’important és “trencar amb la idea que el sexe és només un producte de consum”.