Els gegants tecnològics et vigilen

Aquest escàndol a Facebook és l’últim capítol del dramàtic despertar d’aquell somni del «solucionisme tecnològic» dels anys noranta, quan crèiem que internet suposaria l’adveniment d’una utòpica democràcia global. Ara que tots portem un mòbil i que aquest s’ha convertit en un dispositiu de marcatge, seguiment i invasió profunda de la nostra privadesa, ara que el ferotge capitalisme s’ha transformat en un «capitalisme de vigilància» encara més ferotge, però de rostre jovial, estem començant a comprendre fins a quin punt les noves tecnologies ens estan alterant. Aquest és un repàs a alguns dels advertiments més notoris que han anat llançant en els últims anys destacats experts en aquesta transformació digital.

1. En bucle: Les xarxes socials ens submergeixen en allò que l’assagista nord-americà Eli Pariser ja va batejar el 2011 com el «filtre bombolla». L’algoritme que selecciona allò que veiem a Facebook, Instagram, Google o qualsevol app de cites té un únic objectiu: agradar-nos i mostrar-nos l’objecte dels nostres desitjos, sigui una ideologia, un producte manufacturat o un altre cos humà. En funció del miler de senyals que deixem en navegar -de manera consentida o no- la màquina selecciona i jerarquitza tot allò que veiem. Així sempre estem rebent una versió de nosaltres mateixos. És un bucle infinit. L’algorisme, com diu Pariser, ens serveix una autopropaganda invisible, ens adoctrina amb les nostres pròpies idees. Vivim en el «determinisme informatiu»: el que cliquem anteriorment tornarà sempre, un etern retorn.

Posats en aquest filtre bombolla, no veiem què hi ha fora, què opinen els qui no opinen com nosaltres. I aquest és, per a Pariser, un dels principis de la fi del sistema democràtic: «En última instància, la democràcia només funciona si nosaltres, com a ciutadans, som capaços de pensar més enllà del nostre limitat interès personal. Però per això necessitem tenir una opinió generalitzada del món en què vivim junts». I no només això. Pariser compara aquesta digitalització de la vida amb un espectacle de màgia: no només t’ensenyen només allò que el mag vol que vegis, és que no saps que ho estan fent. Ningú t’ha dit que ets davant dels vells usos del prestidigitador. «A la bombolla de filtres no veus allò que no t’interessa en absolut. Ni tan sols ets conscient que hi ha esdeveniments i idees importants que t’estàs perdent», diu Pariser. El filtre bombolla fa inoperant la democràcia i, a més, agosta el nostre pensament crític. Ens submergeix, aquí va un altre terme, en la «síndrome del món amigable». L’algorisme només ens permet veure la part que més ens agrada de la realitat. «En general, les qüestions àrides, complexes i pesades -un munt d’assumptes que de veritat importen- no passarien el tall».

2. «Homo distractus»: El comportament humà que intenten modelar les plataformes digitals per mantenir-nos sempre disposats a caure en els seus reclams comercials és el d’una consciència humana que vaga a l’albur dels estímuls que ens aniran apareixent i que estan dissenyats segons conegudes tècniques de manipulació psicològica. És el naixement de l’Homo distractus, com el va batejar Tim Wu al seu llibre Comerciants d’atenció. Aquest professor de Dret a la Universitat de Columbia sosté que el «robatori de l’atenció» que des de finals del segle XIX ja practicaven els mitjans de comunicació tradicionals, per finançar-se amb la publicitat, s’ha aguditzat tant amb la nova tecnologia digital que assistim a una veritable succió de la privadesa per «recollir els fruits de la nostra atenció profunda i continuada». Fruits quantiosos. Els cinc gegants tecnològics (Microsoft, Apple, Facebook i Google) superen el bilió de dòlars de capitalització borsària.

És un assalt brutal a la intimitat, tant que Wu considera que «recuperar la humanitat d’homes i dones que, cara a cara, parlen mirant-se als ulls» (i no a les pantalles) és el principal bé a protegir en aquest segle XXI . «El recurs humà més fonamental que requerirà la conservació i protecció durant el proper segle segurament serà la nostra consciència i espai mental». Si no, adverteix, ho pagarem car. «Quins són els costos socials de tenir tots els ciutadans condicionats perquè passin gran part de la seva vida, en comptes de concentrats i abstrets, amb la consciència fragmentada i sotmesos a interrupcions constants?». Hem de recuperar la nostra atenció. Perquè «el que està en joc és una cosa semblant a la nostra manera de viure la vida».

3. El robatori del futur: Soshana Zuboff va publicar el 2020 a Espanya L’era del capitalisme de vigilància, que per a molts és la primera teoria global sobre la nova estructura econòmica del món digital. El capitalisme de vigilància converteix l’ésser humà en una vaca digital que té dos motius per continuar viu. Un: permetre que se li munyi la major quantitat possible de dades sobre la seva vida. Dos: convertir-se en diana dels anuncis personalitzats que rebi a partir d’aquestes dades i comprar aquests objectes, o idees, que tan perfectament s’ajusten als gustos explicitats. Els gegants tecnològics de capitalisme de vigilància es regeixen per l’imperatiu extractiu. És a dir, si deixen d’estimular-nos perquè passem la vida connectats i aportant dades, el seu negoci s’ensorra. Perquè el seu veritable negoci va més enllà de vendre’ns publicitat. El que ells (Google, Facebook, etc.) venen a les marques que els contracten és el nostre futur, adverteix Zuboff. Són «màquines de certeses totals», «gegants de l’endevinació». No només poden predir els nostres comportaments a partir de les dades que voluntàriament els aportem, també són capaços de condicionar el nostre comportament donant-nos petites empentes. N’hi ha prou que t’aparegui al mòbil una recomanació en el lloc i el moment oportú perquè l’home-ratolí corri a comprar aquest suggeriment. «Les activitats del capitalisme de vigilància representen un desafiament elemental al dret al temps futur, que comprèn la capacitat de l’individu humà d’imaginar, pretendre, prometre i construir un futur. Ens extreuen la nostra voluntat de voler», sentencia aquesta catedràtica emèrita de la Harvard Business School.

4. El final de la llei: En el seu assaig de nou-centes pàgines, Zuboff també posa èmfasi, amb exemples detallats, en la política de fets consumats que executen les multinacionals digitals, colant-se per les escletxes de les lleis i aprofitant-se de la impotència dels estats per controlar-les fins a convertir-se en la pràctica en entitats impunes. Això crea una «desfiguració institucional», unes asimetries de poder i coneixement «antitètiques amb la democràcia». No oblidin que Mark Zuckerberg, fundador de l’imperi Facebook, és el sobirà digital absolut d’una «nació d’amics» formada per gairebé 2.500 milions de persones (gairebé una tercera part de la població mundial). Qualsevol canvi de disseny que l’emperador digital ordeni a la plataforma pot revolucionar la societat. Recordin el que va passar quan es va implementar el 2009 el botó del M’agrada: tots vam començar a cotitzar en un mercat continu d’afectes la moneda dels quals eren els polzes.

Les xarxes socials no només són un desafiament directe al poder dels estats, també han demolit un dels principis bàsics del capitalisme tradicional: el contracte. Zuboff insisteix que no és un tema menor. Cada dia signem sense llegir desenes de contractes d’acceptació de les condicions d’ús d’una plataforma o aplicació que, segons aquesta economista, «no fan res més que reforçar l’adhesió a l’univers legal establert per aquestes companyies deixant al marge la legislació ordinària i el Contracte Social». Per això, si cal ser precisos, els gegants tecnològics no estan executant un cop d’Estat, un enderrocament del poder de l’Estat. És, afina Zuboff, un «enderrocament de la sobirania de l’individu». És possible mantenir així dret un sistema democràtic?

5. La mort de la conversa: El 2018, l’informe anual de Telefónica constatava que la missatgeria digital ja era el primer sistema de comunicació entre particulars a Espanya. És igual trucar-se per parlar que creuar uns missatges? Sherry Turkle, psicòloga i sociòloga al MIT (Institut Tecnològic de Massachusetts), assegura en el seu assaig En defensa de la conversa que s’està produint una autèntica destrucció d’una de les habilitats més característiques de l’ésser humà: parlar entre nosaltres, cara a cara, en temps real. Turkle va constatar ja el 2008, només un any després de l’aparició de l’iPhone (veritable big bang d’aquesta era tecnològica), que els joves començaven a sentir-se incòmodes en haver d’afrontar una conversa amb una altra persona sense que intervingués una pantalla pel mig. Era una activitat massa comprometedora. En canvi, la missatgeria digital era «una experiència sense fricció», on a més l’usuari podia «editar» la imatge que volia projectar; mesurant, corregint o esborrant els missatges. Podien controlar el que s’havia de dir, cosa que no sempre passa en una conversa «de les antigues».

I quina és la conseqüència principal d’aquest ocàs conversacional? S’està obrint una brutal «bretxa d’empatia» entre les persones. Pel mòbil, o a les xarxes, es diuen coses que mai no es dirien a la cara. Els intercanvis, a més, són més superficials; la paciència, honestedat i risc personal que requereix una conversa profunda és una cosa del passat. La vida és massa emocional.

6. No hi ha veritat: Christian Salmond va posar de moda la necessitat de construir un «relat» sobre qualsevol activitat humana que es vulgui emprendre quan va publicar, el 2008, el seu llibre d’anàlisi política Storytelling, la màquina de fabricar històries i formatar ments. En el seu últim assaig, en canvi, Salmond rectifica i diu que allò que ara mana és precisament el contrari, que no hi hagi relat. Aquesta, i sobretot després del xoc de Trump, és «l’era de l’enfrontament»: tots contra tots, soroll i fúria, ja res no és veritat ni mentida; és a dir, tot és postveritat. I quin paper juguen internet i les xarxes en tot això, en aconseguir que l’ésser humà es vagi quedant sense agafadors per orientar el curs de la seva vida?

Internet ha estat el virus que va provocar una pandèmia de desinformació. Carl T. Bergstrom i Jevin D. West aborden l’assumpte al seu llibre Contra la charlatanería, ser escéptico en un mundo de datos, que ha editat Capitán Swing. Parteixen d’una pregunta interessant. Si internet posa al nostre abast tota la informació possible, «com pots enganyar algú que pot verificar les teves afirmacions de manera fàcil, immediata i sense cap cost?». La resposta excediria les dimensions d’aquest article, però la veritat és que, com diuen aquests autors, els mòbils han esdevingut l’eina més eficaç per a la difusió de les mentides. Per una confluència de motius. Internet, primer, ha donat veu «a una infinitat de veus en una conversa globalitzada» i aquesta «promesa de democratització», subratllen els autors, «també té el costat fosc». «Podem accedir a més quantitat d’informació de què mai no havíem disposat abans, però aquesta informació és menys fiable que mai». És tanta informació la que ens arriba que ens trobem com l’aprenent de bruixot; aclaparats, esgotats i sense ganes de lluitar contra un torrent que flueix amb més rapidesa cada hora que passa».

La mentida, a més, compta amb un aliat potent en el sistema operatiu de l’ésser humà: ens encanten els continguts cursis, escandalosos o banals en comptes d’aquells més àrids, seriosos, analítics... Avorrits, en definitiva. Com diuen Bergstrom i West, «la pura veritat ja no és prou bona», «la informació directa no pot competir en aquest nou mercat». Els titulars que triomfen, diuen al·ludint a un estudi fet per The New York Times, no són aquells que «relaten cap fet, sinó els que prometen una experiència emocional». Que sigui veritat o mentida ja sembla una cosa secundària.

7. Adéu democràcia: Els enginyers socials de Silicon Valley han trobat el nostre taló d’Aquil·les: aquesta debilitat humana per la mentida més fantasiosa. O pel contingut més extrem. Els algorismes mosseguen aquí i per incentivar la nostra participació (que genera els seus guanys) amplifiquen els discursos més radicals. Seran els que generaran més adeptes i detractors. En definitiva, més trànsit. Es tracta d’això: trànsit. La nostra ira és el combustible de les xarxes socials. Andrew Maratz, periodista de The New Yorker, va analitzar al seu assaig Antisocial l’expansió des de les xarxes socials del fenomen de la «dreta alternativa» dels EUA, que també comporta l’auge del negacionisme i de teories conspiranoiques que només es podrien creure sota els efectes d’un psicòtrop. Aquest és el mecanisme que segons Maratz ens ha portat a la polarització de la societat actual: «La premissa original de les xarxes socials era que ens unirien, a fer un món més obert, tolerant i just... I alguna cosa d’això sí que van fer. Però els algorismes no es van crear per distingir allò que és veritat o mentida, allò que és bo o dolent per a la societat, allò que és prosocial d’allò que és antisocial. Això no és el que fan els algorismes. El que fan és mesurar la interacció: clics, comentaris, què es comparteix, retuits, totes aquestes coses. I si vostè vol que el seu contingut generi interacció, ha de provocar emoció, específicament allò que els experts de la conducta anomenen: ‘d’alta excitació’». Una mica «d’alta excitació» és qualsevol cosa, «positiva o negativa, que ens dispari el pols». Les xarxes «activen les nostres emocions», que és tant com dir que desperten la bèstia que portem a dins.

8. Automatització de la desigualtat: L’automatització de la desigualtat és el títol de l’assaig de Virginia Eubanks, professora de Ciència Política de la Universitat d’Albany, on detalla com l’ús del big data i els algorismes s’està convertint en una manera de «castigar els pobres». Aquest és un dels efectes nocius emergents de les noves tecnologies. Eubanks sosté, en analitzar la realitat nord-americana, que l’automatització de serveis de sol·licituds d’atenció mèdica, cupons d’aliments, de concessió de crèdits o de vigilància policial són especialment punitius amb els més pobres. Una altra especialista en la matèria, Cathy O’Neill, en la seva imprescindible Armes de destrucció matemàtica, editat a Espanya el 2018, ja advertia del poder que tenien els sistemes matemàtics predictius de comportaments per perpetuar els prejudicis socials.

Els algoritmes reflecteixen la ideologia del seu programador. I a més, són opacs per a una majoria: «En l’actualitat, els models matemàtics mal dissenyats microgestionen l’economia, des de la publicitat fins a les presons. Són opacs, ningú els qüestiona, no donen cap mena d’explicacions i operen a tal escala que classifiquen, tracten i optimitzen milions de persones», sentencia O’Neill.