16 de novembre de 2018
16.11.2018

«Els científics de dades haurien de tenir un codi moral, com els metges»

Les anàlisis de Miguel Luengo-Oroz han servit per ajudar en camps de refugiats o els afectats pels terratrèmols del Japó i Haití

16.11.2018 | 16:06
«Els científics de dades haurien de tenir un codi moral, com els metges»

Miguel Luengo-Oroz (Oviedo, 1981) imagina un futur en el qual les màquines estiguin al servei dels humans i no a l'inrevés, com prediquen moltes novel·les de ciència ficció. És el cap dels científics del big data al laboratori Global Pulse de l'ONU, que es dedica a explorar les àmplies possibilitats d'aquestes noves tecnologies. Les seves anàlisis, basades en algoritmes i en enormes bases de dades, han servit per ajudar en camps de refugiats o als afectats pels terratrèmols del Japó i Haití.

Un dels seus projectes va ser crear un robot per escriure poesia. Com va anar? Vaig fer Enginyeria de Telecomunicacions a Madrid i després me'n vaig anar a França, on vaig acabar Enginyeria a l'Escola d'Enginyers de Mines i a més vaig fer un màster en ciències cognitives. La temàtica que explorava era la creativitat artificial i si la intel·ligència artificial pot tenir processos creatius com els humans. Així que aquell any vaig desenvolupar un robot que pogués escriure poesia.

I va funcionar? Bé, en va sortir alguna cosa (riu). En teoria era poesia a l'estil de William Blake (torna a riure). Aquell any em vaig dedicar a estudiar temes de neurociència i ciències cognitives. Després vaig fer el doctorat en Enginyeria Biomèdica, sobretot en anàlisi de dades i de desenvolupament de la vida. Més tard vaig estar uns mesos a la Singularity University de la NASA, a Califòrnia. Vaig formar part del primer grup espanyol que hi va anar.

I d'allà, llançat cap a l'ONU... Va ser el 2011 quan me'n vaig anar a Nova York a treballar a Global Pulse, un departament de l'ONU que va sorgir arran de la crisi financera, i que va néixer perquè entre 2007 i 2008 molts països van perdre en mesos, en termes de desenvolupament, el que havien trigat anys a guanyar. Llavors el G-20 li va demanar a Nacions Unides que establís una cosa que pogués prendre el pols al planeta, que pogués utilitzar les eines que fa servir el sector privat. Vaig ser la primera persona de perfil tècnic que es va incorporar a l'equip. Avui som més de seixanta persones dividides entre Nova York, Jakarta i Kampala.

Va abandonar llavors el món dels robots? Al final tot està connectat. Jo, abans, durant el doctorat, buscava patrons en cèl·lules que es movien formant òrgans, i ara busquem patrons en imatges de satèl·lit de crisis humanitàries. Hi ha una analogia. El meu equip és multidisciplinari, treballo amb gent de tots els sectors, de seguretat alimentària, de salut, d'emergències o de clima. La idea és aprendre a escoltar totes aquestes disciplines i transformar això en problemes que es puguin resoldre amb les tècniques, perquè les tecnologies són una eina.

Fa la impressió que la intel·ligència artificial (IA) ha explotat aquests últims mesos... Per una banda, ha arribat el big data, i en el nostre dia a dia estem produint constantment senyals que es converteixen en dades. De l'altra, el desenvolupament de la capacitat de computació ha crescut molt. Una altra tercera pota és que hi ha uns algoritmes que s'havien ideat fa dècades i que, de cop i volta, s'ha provat que quan els alimentes amb moltes dades i tens molta possibilitat de computació donen uns resultats magnífics en unes tasques molt concretes.

Com quines? Com les de reconeixement de fotos. Si els dónes prou exemples funcionen molt bé. També en tasques de traducció, perquè hi ha força exemples de traduccions que poden prendre. Tenen molta base de dades. Funcionen molt bé per transformar l'àudio en text. I quan els entrenes en coses molt determinades, com, per exemple, jugar a escacs. Tot d'una, ha augmentat el rendiment per a aquestes tasques tan concretes i això pot fer que millorem la productivitat en determinats angles. Per això s'han desenvolupat els assistents virtuals o l'optimització logística. Ara estem en un moment en què hem de dirigir aquest desenvolupament tecnològic cap a aplicacions que tinguin un impacte social i no només econòmic. També hem de mirar en quins casos caldrà regular aquestes eines. El que no pot passar és que aquells que desenvolupen les tecnologies facin un outsourcing (externalització) total de les seves implicacions ètiques i morals, com podria passar amb armes autònomes, per exemple. Tots els científics de dades haurien de tenir un codi moral, com el tenen els metges.

No n'hi ha cap? No. Històricament hi ha hagut propostes en camps generalistes de l'enginyeria, però no específicament sobre ciència de les dades i intel·ligència artificial. Fa molt pocs mesos diverses figures d'Estats Units ho van proposar.

Arribarem a veure màquines que siguin més intel·ligents que els humans? La de les màquines no és una intel·ligència generalista. Poden ser millor que un humà jugant als escacs o buscant en una base de dades com és Google, però no poden improvisar. L'humà està dissenyant l'univers en què viuen les màquines. Jo veig la intel·ligència artificial com augmentar les capacitats humanes, no substituir-les. El debat l'hem de dirigir cap a la utilitat. Com deia un dels alts directius de Facebook, no pot ser que les ments més brillants de la meva generació estiguin treballant en que la gent faci clics en anuncis d'internet. Anem a pensar i utilitzar aquests recursos tecnològics en fer millors diagnòstics mèdics, en treure els embussos de les ciutats, en optimitzar l'agricultura ... I al final, si de veritat s'augmenta la productivitat, cal redistribuir la riquesa perquè això serveixi per tenir més igualtat.

Vostè forma part d'un grup a Espanya que està preparant una estratègia sobre intel·ligència artificial. En què consisteix? El Govern va formar un grup d'experts per elaborar un Llibre Blanc sobre l'estratègia d'intel·ligència artificial a Espanya, hi estem treballant. Amb el canvi de Govern hi ha hagut una petita parada, però esperem que abans de final d'any estigui llest.

Pot avançar alguna cosa d'aquest treball? Entre quinze i vint països d'arreu del món han publicat ja les seves estratègies. És una cursa. Estats Units, Xina, Regnet Unit, Japó, Canadà i França ho han fet. Aquest serà un primer pas per veure quines temàtiques cal tocar, veure quins són els sectors d'interès, les capacitats que hi ha, quins són els principis ètics als quals hem d'anar, com aprofitar el paper d'Espanya al món per ser competitius...

Quines conseqüències hi pot haver si no s'utilitza èticament la intel·ligència artificial? Un cas molt clar que necessita de regulació internacional són les armes autònomes. Hi pot haver altres com quan els algoritmes prenen decisions automàtiques que puguin tenir un impacte clau en la vida de les persones; si et concedeixo un préstec o no. Cal fomentar que les decisions dels algoritmes puguin ser explicables, saber quines són les raons subjacents per prendre aquestes decisions. Imagini que fem servir un programari per seleccionar personal i aquest programa aprèn de tota la gent que tens a l'empresa del passat. Doncs resulta que si hi havia més homes és probable que hi hagi un biaix i el programari et proposi més homes. Llavors, cal dissenyar algoritmes i introduir les dades de manera que no hi hagi aquests biaixos. Això ens porta a dues coses. Primer, que necessitem equips més multidisciplinaris que entenguin la problemàtica. I, segon, que hi hagi diversitat. De gènere, de cultures, de coneixements ... per explotar totes les possibilitats. La majoria de productes que usen aquesta tecnologia estan creats per un tipus de perfils masculins de Silicon Valley i això limita el rang d'aplicacions possibles i el seu ús per resoldre problemes tant globals com locals.

Vostès, a l'ONU, han creat un programa per controlar els camps de refugiats. En què consisteix? Ara, els analistes compten de forma manual les tendes o estructures en camps de refugiats. Nosaltres, amb l'agència de satèl·lits de l'ONU (UNOSAT), en lloc de substituir a l'analista humà, l'ajudem a través d'intel·ligència artificial a anar més ràpid. No pots substituir l'humà. La precisió és crítica.

Quines implicacions pràctiques té? La informació es dóna a la gent que està sobre el terreny i serveix per dimensionar aspectes logístics. Quanta gent hi ha, quant menjar o aigua cal repartir...

També han fet un altre projecte sobre terratrèmols. Com funciona? Per exemple, en el cas del terratrèmol que hi va haver l'any passat a Mèxic, hi ha informació de bases de dades de big data, com quants mòbils connectats hi havia en un lloc, el que serveix per saber cap a on va la gent després d'un terratrèmol. També analitzem la informació financera, quant de temps tarden les ciutats afectades pel terratrèmol a tornar a l'activitat que tenien abans... Això ho estem fent de la mà de Telefónica i BBVA i l'Institut Nacional d'Estadística de Mèxic i val per a les polítiques públiques que es poden destinar a la reconstrucció.

En què estan treballant ara? Mirem informació en xarxes socials per saber quan la gent parla, per exemple, de vacunes. En aquest cas ho hem desenvolupat a Indonèsia i mirem quan la gent posa missatges que relacionin les vacunes amb alguna cosa més com, per exemple, l'autisme. Si això passa, el Ministeri de Salut pot decidir si contesta o no contesta. En un altre projecte al Brasil mirem missatges discriminatoris o d'odi contra gent amb HIV o contra poblacions LGTB. Aquesta és una forma de mesurar per després avaluar com pots reaccionar. Trigues tant de temps a crear la tecnologia com a definir el problema. La part difícil és posar totes les persones que estan involucrades al voltant de la taula i que s'entenguin. Que l'enginyer entengui l'expert en vacunes i s'entenguin amb qui treballa en comunicació. Cal més gent que tingui capacitat d'entendre i empatitzar.

Fa uns anys vostè decideix llançar-se a un projecte empresarial i forma una companyia lligada amb els videojocs i la detecció precoç de casos de malària. Com va anar? El vaig llançar el 2012 i la idea era presentar el concepte de diagnòstic col·laboratiu. Digitalitzem mostres biomèdiques de malària, això es fa amb un telèfon mòbil i un microscopi fabricat amb impressió 3D. Després es puja a la xarxa i es distribueix a una aplicació mòbil que és el joc, Malària Spot. Fins ara hi han jugat més de cent mil persones en cent països diferents. I hem creat una empresa que fa solucions de telemedicina.

Un altre debat obert en el seu camp és que hi ha molta gent que no vol que es facin servir les seves dades, per exemple, els que pugen informació a internet o xarxes socials... Vull que els ciutadans puguem decidir per a què es fan servir les nostres dades. Veig un futur en què els nostres fills diguin, bé, les dades de salut les comparteixo per a temes d'investigació ... Però hem d'entendre què està passant. Els ciutadans desconeixem com funciona l'economia de la dada i realment hauria d'haver-hi més transparència i des del coneixement cadascú decidir per a què valen les seves dades i per a què no. Aquestes aplicacions, després, han d'estar alineades amb els drets humans. Han de transmetre els valors morals i ètics en els quals nosaltres creiem. És important mirar l'impacte social i no només l'econòmic d'aquestes tecnologies.

Com s'imagina el món en un futur? Cohabitarem amb els robots com en una novel·la d'Isaac Asimov? El veig amb optimisme. La idea és dirigir el desenvolupament tecnològic i d'intel·ligència artificial a un lloc en què amplifiquen als humans pels seus valors morals i ètics. No cap a un lloc al qual es reemplacen o cohabiten amb nosaltres. La clau és que tota aquesta nova generació de riquesa es redistribueixi entre la gent i no serveixi per augmentar les desigualtats.

Com estan els diferents països en la carrera d'aquesta nova economia cap a la intel·ligència artificial? La Xina i els Estats Units estan invertint molts diners per ser pioners en els seus sectors econòmics de gran interès. França, per exemple, ha posat els valors ètics per davant també amb els econòmics. És un moviment interesant.

Compartir a Twitter
Compartir a Facebook