L’any 1956, la ment de l’escriptor Philip K. Dick va imaginar a L’informe de la minoria un món on la policia era capaç de predir els crims abans que passessin. El 2023, la Unió Europea (UE) preveu començar a adoptar dins de les seves fronteres un sistema d’Intel·ligència Artificial (IA) que pugui predir quins seran els fluxos migratoris cap al continent i les possibles tensions derivades, una controvertida eina algorítmica que s’està desenvolupant amb destacada participació catalana.
El projecte, conegut amb el nom d’Itflows, busca demanar informació sobre els corrents migratoris per gestionar de la manera més òptima possible l’arribada, la reubicació i la integració d’aquelles persones que intenten arribar a Europa sortejant els perills del mar Mediterrani, on l’any passat van morir ofegades o van desaparèixer unes 1.924 persones, segons l’ONU. Per això compta amb una subvenció pública de 4,87 milions d’euros.
Aquesta tecnologia completarà la construcció de l’anomenada «frontera intel·ligent», el sistema de vigilància que s’està desplegant a Espanya, Itàlia i Grècia, els països de la UE que fan frontera amb Àfrica. Aquesta tecnificació de les fronteres europees inclou altres mesures controvertides com l’ús de càmeres de reconeixement facial, drons de videovigilància o l’extracció de dades personals i biomètriques.
Lideratge de la UAB
El setembre de 2020, Brussel·les va constituir un consorci format per 13 universitats, instituts econòmics, organitzacions humanitàries i l’empresa tecnològica grega Terracom per desenvolupar el projecte, coordinat per la Universitat Autònoma de Barcelona (UAB) i finançat amb gairebé 761.000 euros. Amb el nom d’EUMigraTool, el sistema pretén preveure futurs fluxos cap a Europa basant-se en dades públiques migratòries, econòmiques i demogràfiques d’organitzacions com Eurostat, el Fons Monetari Internacional (FMI) o les Nacions Unides. També pretén «detectar riscos de tensions derivades de la migració» mitjançant l’anàlisi del que es diu a les xarxes socials.
Un cop acabada, aquesta eina de predicció serà accessible només per a ONGs de la UE i municipis de les zones d’arribada de migrants per ajudar a agilitzar-ne la resposta. En cap cas, «ni governs nacionals ni institucions europees hi tindran accés», segons remarca la coordinadora del projecte, Cristina Blasi. Les prediccions que faci la màquina no seran acatades de forma rigorosa, sinó supervisades per un usuari i utilitzades per ajudar en la presa de decisions.
D’altra banda, el projecte compta amb la participació de tres ONG, que han entrevistat més d’un centenar de migrants i sol·licitants d’asil per conèixer els factors que impulsen la migració. Aquesta informació, diuen, «no s’utilitzarà per predir fluxos», sinó per als informes públics on aquestes ONGs elaboraran periòdicament recomanacions de polítiques d’integració per a governs nacionals i la Comissió Europea, segons explica Irene Vití, responsable de gestió d’Itflows d’Open Cultural Center. Aquesta organització humanitària, situada a Barcelona i Grècia, ha rebut una subvenció pública de 116.800 euros.
Dubtes i riscos
El sistema planteja alguns dubtes i riscos. «El consorci és plenament conscient dels riscos i dels seus potencials impactes en termes de posada en perill dels drets humans», subratlla un document del gener del 2021 elaborat pel consell ètic d’Itflows i destapat per l’ONG Disclose. En altres informes s’adverteix del perill que els «Estats membres utilitzin les dades facilitades per crear guetos d’immigrants» així com per «estigmatitzar, discriminar, assetjar o intimidar».
L’accés de les ONGs a informació personal de les persones refugiades –que pot incloure detalls de caràcter ètnic, religiós o sexual– és especialment sensible. És per això que s’han proposat mesures per evitar usos indeguts de les entrevistes, com ara demanar consentiment als migrants i anonimitzar aquestes dades perquè no se’ls pugui identificar. Un document intern del comitè ètic apunta que aquestes entrevistes personals serviran per «millorar o perfeccionar la capacitat de predicció», encara que Emma Teodoro, líder del comitè ètic d’Itflows, matisa que «no serviran per al model, però sí que serà informació útil a tenir a compte quan elaborem informes».
El programa Itflows, que segons asseguren no podrà ser utilitzat pels governs, planteja dubtes i riscos sobre el seu impacte en els drets humans
L’ús de la IA per fer prediccions també desperta sospites dins del sector. «Servirà per analitzar els patrons migratoris del passat, no per predir els que vindran», explica Ana Valdivia, professora d’Intel·ligència Artificial, Govern i Política a l’Oxford Internet Institute. L’experta assenyala com a problemàtic el fet que Itflows també faci servir les cerques a Google per a la seva suposada predicció. «Correlació no implica causalitat, que la gent busqui temes de migració no significa que migraran», afegeix.
Un altre dubte gens menor és què passarà quan finalitzi el finançament del projecte l’agost del 2023. La intenció dels seus impulsors és que Itflows i la seva eina predictiva passi a mans de les ONG perquè en coordinin l’acció. Les entrevistades discrepen de si l’eina serà un prototip o estarà a punt per a ser utilitzada, però coincideixen que el seu destí és incert. «No hem pogut concretar quin és el millor camí, però el que no farem és donar-la als governs», assegura Blasi.
Militarització de les fronteres
El temor que Itflows es pugui utilitzar amb finalitats discriminatòries també és degut a l’interès que l’eina ha despertat a Frontex, les dades del qual ja han estat usades per testejar-la. L’Agència Europea de Guàrdia de Fronteres i Costes, punta de llança de militarització de les fronteres afavorida per Brussel·les, figura en els documents interns del projecte com a membre de la seva Junta d’Usuaris. També l’Agència Europea per a l’Asil (EUAA) -formada per representants dels Estats membres i de la Comissió Europea–, fent-les partícips en el «disseny» i «validació» de l’eina predictiva. «Ens consta que estan interessats en el projecte», assegura Teodoro.
L’historial de Frontex preocupa. El seu anterior director executiu, Fabrice Leggeri, va haver de dimitir a l’abril després de ser acusat d’haver encobert abusos dels drets humans contra refugiats i migrants. Una investigació periodística de l’alemany Spiegel va destapar que els guardacostes grecs realitzaven devolucions «en calent» il·legals a alta mar, que Frontex n’era conscient i que va silenciar l’escàndol, fins i tot mentint davant del Parlament Europeu. Tot sufragat amb diners del contribuent.
La coordinadora del projecte nega que Frontex acabi sent un usuari d'aquest sistema de predicció migratori. «Com a màxim us podrem donar informes bianuals per explicar-los els resultats que hem trobat», explica Blas.
La líder del comitè ètic, mentrestant, apunta cap a altres opcions. «Ara per ara, Frontex només la podria fer servir amb finalitats humanitàries (…) no per al control de fronteres. Si algú coqueteja amb un ús securitatiu hem pres mesures per limitar riscos», apunta Teodoro.
