La UdG alerta dels riscos de la intel·ligència artificial en els processos electorals

La intel·ligència artificial s’ha convertit en una amenaça per a la integritat dels processos electorals a escala mundial. Així ho alerta l’Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC), amb seu a la Universitat de Girona, en un estudi encarregat per la Generalitat.

L’informe, titulat Estudi sobre els riscos de la IA en l’àmbit dels processos electorals, identifica cinc grans categories d’eines amb un alt potencial de manipulació: els deepfakes, és a dir, vídeos i àudios falsos però realistes; els grans models de llenguatge capaços de generar desinformació a gran escala; els bots d’amplificació automàtica; la microsegmentació psicogràfica per enviar missatges hiperpersonalitzats, i la suplantació d’identitat automatitzada.

Segons l’OEIAC, l’any 2024 va representar un punt d’inflexió en aquest àmbit, amb més de 60 països afectats per incidents de desinformació o manipulació activa mitjançant eines d’IA. L’estudi documenta casos arreu del món entre el 2023 i el 2026, des de la difusió de vídeos falsos durant campanyes electorals fins a l’ús de bots, avatars digitals o trucades automatitzades per influir en el vot o confondre l’electorat.

Exemples internacionals

Entre els exemples internacionals, l’informe cita casos registrats a Turquia, Pakistan, Corea del Sud, els Estats Units, Mèxic, Argentina, Eslovàquia, el Regne Unit i Polònia. Un dels episodis més destacats és el d’Eslovàquia, on una gravació falsa generada amb IA entre un candidat i una periodista sobre la compra de vots va tenir incidència en el resultat electoral, segons recull l’estudi.

L’informe també aborda la vulnerabilitat a Catalunya davant aquests fenòmens. En aquest apartat, documenta casos de desinformació vinculats a imatges generades amb IA i campanyes polítiques a les xarxes socials. Entre altres exemples, cita l’ús d’una imatge falsa creada amb IA per part d’Aliança Catalana a Manresa, que va esdevenir viral abans de ser desmentida per Verificat, així com una altra imatge generada amb IA difosa per Sílvia Orriols en què apareixia disparant contra Carles Puigdemont i que ha estat denunciada judicialment per delicte d’odi.

El director de l’OEIAC i coordinador de l’estudi, Albert Sabater, alerta que «la magnitud del fenomen requereix un canvi de mirada» i afegeix que «la velocitat amb què es viralitzen aquests continguts falsos supera qualsevol capacitat de desmentiment perquè l’objectiu ja no és només enganyar, sinó erosionar la confiança ciutadana en el sistema». Segons Sabater, «la batalla no és només tecnològica, sinó cognitiva i democràtica».

Una de les conclusions de l’estudi és el desfasament entre la innovació tecnològica i la resposta legislativa. L’OEIAC assenyala que, tot i que el Reglament europeu d’IA i el Reglament de Serveis Digitals classifiquen els sistemes que influeixen en eleccions com d’alt risc, la normativa estatal i catalana encara és insuficient. En concret, l’informe considera que la Llei Orgànica del Règim Electoral General no aborda els reptes digitals actuals i que a Catalunya no hi ha una regulació pròpia en aquest àmbit.

Davant aquest escenari, l’Observatori proposa una resposta multinivell que combini salvaguardes tècniques, governança ètica i regulació preventiva. Entre les mesures plantejades hi ha l’elaboració d’un codi de bones pràctiques que prohibeixi els deepfakes enganyosos i la microsegmentació amb dades sensibles, més transparència en la publicitat política digital, noves infraccions contra la interferència algorítmica maliciosa i programes d’alfabetització digital crítica per a la ciutadania, els mitjans de comunicació i les autoritats electorals.