La IA acabarà sent una porta oberta per als ciberdelinqüents

Cada vegada és més senzill que els ciberdelinqüents trobin escletxes per colar-se en els nostres sistemes digitals. Això suposa un gran perill per què avui dia tot està automatitzat i digitalitzat.

La popularització i massificació d'eines d'intel·ligència artificial (IA) ha obert un sender d'oportunitats nou per als delinqüents cibernètics, que ja estan explotant capacitats dels models generatius per infiltrar xarxes, manipular usuaris i aplicar extorsions amb una eficiència inèdita. Considerant el vertiginós progrés dels models d'IA, sembla que l'avenç d'aquest nou tipus de hacking no té límits a la vista.

Segons informa The Washington Post, investigacions i exemples recents mostren com els atacants no només usen IA per optimitzar tècniques clàssiques, sinó també per aprofitar les mateixes IA instal·lades a les màquines de les seves víctimes a favor seu.

Exemples clars de les noves amenaces

Un cas il·lustratiu va ser una campanya de cadena de subministraments que va comprometre paquets de Nx: el codi maliciós va buscar credencials i va assumir que les víctimes tindrien assistents de programació de Google o Anthropic, instruint-los per extreure'n dades. Segons els reportis, més de mil equips van enviar informació als atacants.

En aquest sentit, en conferències de seguretat com Black Hat s'han demostrat tendències preocupants: documents amb instruccions ocultes dirigides a models de llenguatge que, en resumir-los, lliuraven contrasenyes o induïen el sistema a executar accions perjudicials per als usuaris.

En un altre cas similar, un agent de navegador amb autonomia va comprar en un lloc fraudulent seguint ordres falses d'un correu bancari. Aquestes proves posen en relleu que la IA pot ser una eina perquè els hackers actuïn amb autonomia i passin per alt els controls tradicionals.

Atacs cada cop més sofisticats i simples alhora

En concret, l'amenaça es torna més aguda perquè la IA facilita trobar errors abans indetectables als sistemes. En diferents concursos i convocatòries, els experts han demostrat que sistemes autònoms poden rastrejar milions de línies de codi i localitzar “buits” de seguretat amb rapidesa: s'han identificat desenes de vulnerabilitats a grans bases de codi. Aquesta possibilitat, a les mans d'atacants capacitats i motivats, podria desencadenar una carrera global per explotar deficiències crítiques.

Alhora, la mateixa automatització redueix la barrera tècnica: han estat identificades campanyes de ransomware o "segrest de dades" operades gairebé íntegrament per IA, on l'atacant va utilitzar models per localitzar víctimes, explotar sistemes i calibrar demandes de rescat sense ser un expert programador. La facilitat d'ús proporcionada per la IA potència a atacants menys tècnics i accelera l'escala de les operacions delictives.

Com fer front a aquesta nova amenaça? Els analistes aconsellen des d'auditories contínues de codi i control de dependències fins a polítiques clares sobre assistents de programació i agents autònoms. Si no s'actua a temps, la pròxima dècada podria estar marcada per una escalada en la sofisticació i l'abast dels ciberatacs, amb la IA com a eina central.