La cara ètica de l'algoritme

El 2014, va deixar WhatsApp (cobrant només una part de l'import de cancel·lació del contracte degut a la venda, afirma) i l'any següent va començar a treballar a Telegram, que presumeix de no fer negoci amb les dades dels seus usuaris. «Segurament no podré tornar a treballar a Facebook, però hem de fer aquests passos», afirma.

El dilema moral que exposa Campo no és una excepció. «Treballant en màrqueting, et topes amb temes qüestionables quan uses dades. Et preguntes si estàs fent les coses correctes», afirma P., un programador d'una empresa de Barcelona, que demana anonimat.

«Són temes dels quals parlem entre nosaltres», admet M. un informàtic que treballa a Barcelona per a una empresa de Silicon Valley i que tampoc vol fer públic el seu nom. «[Les companyies] s'estan portant bé? Vulneren la privacitat? Tenen un impacte en la democràcia?», es pregunta, als pocs dies de l'assalt al Capitoli, instigat en part a través de les xarxes socials.

«Si ets a dins durant un temps, et trobes embolicat en temes en els quals abans que no hauries acceptat entrar», afirma J., un desenvolupador de videojocs català, que també prefereix no revelar el seu nom.

«Dins de les empreses hi ha molts desenvolupadors que empenyen per canviar les coses. Els directius ja no responen només als accionistes i els treballadors tenen les seves opinions», reflexiona E., una jove informàtica catalana que treballa per un dels gegants de Silicon Valley, que se suma a la petició d'anonimat.

La majoria de les fonts consultades treballen en empreses privades que no els permeten expressar-se lliurement, o senten incomoditat en qüestionar obertament el treball d'altres programadors.

No obstant això, n'hi ha prou amb donar una ullada pels fòrums de programadors i xarxes socials per a trobar-ne desenes que expliquen per què han deixat o rebutjat feines en les millors companyies de computació.

Alguns casos són sonats. El 2020, l'exdirectiu d'Amazon Tim Bray va abandonar l'empresa en protesta per l'acomiadament d'un treballador que havia reclamat més compromís amb el canvi climàtic. El 2019, la investigadora en intel·ligència artificial Meredith Whittaker va abandonar Google, criticant el seu enorme poder.

Molts treballadors del codi estan preocupats per la captació d'informació privada, la difusió de notícies falses i la manipulació del comportament d'algunes persones. Però també pel monopoli d'unes poques companyies, la discriminació algorítmica (el disseny de programes a la mida d'homes blancs i rics), la petjada de carboni de la computació, i el model de negoci de l'economia de plataforma.

«L'ètica dels algorismes està prenent cada vegada més importància», afirma Ricardo Baeza-Yates, professor de Ciències de la Computació a la Universitat Pompeu Fabra. Per exemple, s'han multiplicat els congressos acadèmics i l'activisme. La «humanització» de les tecnologia de la informació també forma part de la iniciativa Mobile World Capital de Barcelona.

No obstant això, en la pràctica no és fàcil donar l'esquena a una oferta de treball de Facebook o Amazon, per exemple. «A més de bons sous, pots treballar en tecnologies capdavanteres, i després el teu currículum puja de categoria», afirma R., informàtic que treballa per a una empresa espanyola, que també vol romandre en l'anonimat.

Diversos experts veuen certa analogia amb la situació dels físics nuclears durant la guerra freda. La ciència de les partícules també era impulsada, en part, per una finalitat aterridora: la carrera nuclear. Alhora, els físics investigaven temes fascinants i gaudien de prestigi i bons sous, igual que els experts en informàtica avui.

«Els físics tenien clar que els seus experiments eren coneixement pur. Si els sorgia algun escrúpol, era fàcil desacoblar el seu treball de qualsevol aplicació», explica Xavier Roqué, professor d'Història de la Ciència de la Universitat Autònoma de Barcelona. «Amb la mirada freda de l'historiador, es veu que no era així. Sovint la base teòrica i el desenvolupament pràctic van plegats: en el projecte Manhattan [per a la construcció de la bomba atòmica] es va fer molta física», afegeix. De fet, el projecte Manhattan va tenir només un objector de consciència, Joseph Rotblat, que després va rebre el premi Nobel de la Pau.

També els informàtics tenen l'opció de rentar-se les mans. «Com a treballador, programes una part i no saps com s'usarà. Pots sospitar que l'empresa farà coses poc ètiques amb el teu codi, però no depèn de tu, sinó dels caps.

No obstant això, aquest autoengany funciona pitjor amb la intel·ligència artificial. «En la física no hi havia tanta motivació econòmica. Al contrari, Google i Facebook tenen l'objectiu clar de fer diners. Això hauria de posar més en alerta», observa Josep Domingo-Ferrer, professor de Ciència de la Computació a la Universitat Rovira i Virgili. «Del projecte Manhattan només va marxar un físic. En el món de la intel·ligència artificial, la dissidència és massiva», coincideix Carlos Castillo, investigador en ètica dels algorismes a la Universitat Pompeu Fabra. «Els físics van necessitar la bomba atòmica per a obrir els ulls. Esperem que als enginyers no els faci falta una cosa equivalent», afirma Gemma Galdón, directora de la consultora Ètiques Research and Consulting i investigadora de la Universitat de Barcelona.

De fet, alguna cosa es mou dins de la indústria. «Als Estats Units, el poder de negociació dels informàtics és major. Hi ha moviments que demanen codis ètics i objecció de consciència», explica Galdón. En Google s'acaba de formar un sindicat i els seus empleats i els de Microsoft han aconseguit boicotejar contractes militars.

«Algunes empreses estan en un moment de reflexió, arran d'escàndols que han protagonitzat. Han creat equips per a fer algorismes més equitatius. Això era impensable fa cinc anys», comenta Castillo. Diversos experts lloen els esforços de Google.

Per a alguns programadors, l'ètica ja és un criteri imprescindible. «Jo no contractaria a ningú que hagi treballat a Facebook després dels escàndols de 2015-16. La teva carrera explica els teus valors», afirma Elies Campo.

«En el sector de la informàtica hi ha més demanda que ofereix de perfils qualificats. Pots triar en quina empresa vols treballar», afirma Jordi Mas, una de les ànimes de l'associació Softcatalà. Un exemple d'això és Diego Sáez Trumper, informàtic xilè establert a Barcelona i investigador en la Wikimedia Foundation, l'entitat que garanteix el funcionament de la Wikipedia.

Després d'investigar a la universitat, Sáez va optar per una informàtica basada en el programari lliure i sense lucre. «És una aventura, més que un negoci reeixit. No competeixes en igualtat de condicions amb els que no tenen requisits ètics», lamenta.

La seva és una opció vital, a més de professional. «En la meva vida diària puc prescindir de qualsevol programari propietari. Tinc un mòbil on he instal·lat una versió lliure d'Android. No uso WhatsApp i he convençut la meva família i els meus amics que utilitzin Signal. Tinc Linux al meu ordinador i esborro les cookies cada vegada que em connecto», explica.

Sáez compara la seva elecció personal amb reciclar les escombraries: no és suficient per a solucionar un problema global, però és necessari. «No m'agrada que usin les meves dades per a fer negoci, i a més, amb si sortir de la bombolla del filtre», assegura, en referència al contingut d'internet personalitzada per algorismes perquè encaixi amb les nostres preferències.

«El sector de la informàtica ètica és minoritari i el serà durant molt de temps. Però, tenir èxit vol dir ser famós o bé fer coses interessants?», pregunta Baeza-Yates. Campo no té dubtes: «Es pot desenvolupar una carrera satisfactòria i d'alt nivell en empreses amb valors amb els quals et sents alineat», conclou.