Intel·ligència Artificial (II): Palantir

Vaig llegir el llibre «Un món feliç» d’Aldous Huxley de molt jovenet. Aldous Huxley va ser un intel·lectual i escriptor anglès nascut a finals del segle XIX, interessat per tots els temes que atenyien la vida dels humans. Per exemple va experimentar amb drogues, el que el va portar a escriure un llibre i a dissertar en congressos de medecina i el 1931 va escriure «Un món feliç», una distopia en què a través de pastilles d’un producte anomenat «soma» les persones viurien en un món on sols hi hauria felicitat. En aquest món els humans serien desposseïts de les emocions i l’amor a canvi de tenir una sensació de felicitat que donaria la ingesta de pastilles. El mateix Huxley descrivia la dictadura que suposaria un món en què la felicitat fos una imposició. Seria «una dictadura perfecta que tindria aparença de democràcia però seria bàsicament una presó sense murs de la que els presoners ni tan sols somiarien escapar. Seria essencialment un sistema d’esclavitud en el qual, gràcies al consum i l’entreteniment, els esclaus estimarien la servitud.»

També pels mateixos anys vaig llegir el llibre «1984» de George Orwell, publicat el 1948 i que va rebre els elogis de Huxley que el va voler conèixer personalment. Si al món feliç s’imposa la felicitat, a «1984» el que prima és el control, el Gran Germà que tot ho veu amb el seu govern del món exerceix un control total i es cuida de què tothom l’estimi i respecti les seves regles. Aquí és el control i l’organització el que prima, per exemple, els nens són educats i classificats de petits pel rol que hauran de fer de grans (els alfa per governar, els beta per l’estructura intermèdia, etc.) i són cuidats per assegurar aquests rols. En tots dos llibres existeixen uns humans, uns salvatges que viuen al marge de la societat organitzada, que no se sotmeten a les normes del món (volen sentir emocions que els poden fer infeliços o volen ser lliures, defensen les llibertats i no volen sotmetre’s a les regles del Gran Germà), que són el germen de futurs homes lliures i són perseguits per aquest motiu.

D’alguna manera aquests llibres i d’altres que podríem citar anticipen el present i un futur en què unes grans empreses tecnològiques, com deia a «Intel·ligència Artificial (I)», ens volen fer creure que si seguíssim els resultats dels seus algoritmes, ens trobaríem en un món pràcticament perfecte com el que descriuen els dos llibres anteriors. Estaríem, si així ho creguéssim, en un món feliç en què l’amor ens vindria determinat per un algoritme que ens diria a qui hem d’estimar i què hem de fer per ser feliços. Les empreses tecnològiques serien com el Gran Germà de 1984, a qui hem de seguir sense qüestionar les seves decisions i perdrien sentit conceptes com llibertat o democràcia, no les necessitaríem per organitzar la societat. També les guerres variarien, els objectius els fixaria un algoritme que, de forma autònoma engegaria el míssil, el dron, etc., per eliminar un enemic que podria o no estar en el lloc on s’ha llençat l’armament. Uns algoritmes amb un grau de fiabilitat lluny del 100% decidirien les nostres decisions.

Peter Thiel i Alex Karp, directors de Palantir, una empresa fundada el 2004 especialitzada en anàlisi de dades i indústria de la guerra, ens volen fer creure que llibertat i democràcia són dos conceptes antagònics. Però això que podíem intuir i que les idees principals estan en el llibre «The Technological Republic: Hard Power, Soft Belief, and the Future of the West» d’Alex Karp, ara ho han posat blanc sobre negre en un manifest de 22 punts, el manifest Palantir, que resumeix i precisa les teories explicades per Karp en el seu llibre. El que suggereix, de forma més o menys velada, és un món manat pels tecnòcrates i els seus algoritmes on no tindríem llibertat ni democràcia, viuríem sota l’ègida dels algoritmes que proporcionarien les grans tecnològiques.

Alguns ens sentim fora d’aquest marc mental en què ens voldrien fer viure, en una dictadura en què els directius d’aquestes empreses es cuidarien de l’organització social i nosaltres seríem meres comparses de les seves decisions. Si això passés alguns ens situaríem en el grup dels salvatges del món feliç, dels que hauríem de lluitar perquè la llibertat, les emocions i la democràcia no siguin negades, lluitaríem per un món més humà amb totes les seves conseqüències, com demana Lleó XIV en la seva encíclica que comentava en un article anterior.

Els avenços científics han resultat molt beneficiosos a condició que s’orientin de forma adequada, cap a la millora de la humanitat. L’exemple més evident d’un mal ús de la ciència és el de la bomba atòmica, que va causar danys irreparables, però també ho són les creacions de virus o les armes autònomes, etc. Si deixem que els descobriments científics es desenvolupin sense control com proposen en el manifest Palantir o també dirigents com Elon Musk, els resultats poden ser molt preocupants.

Subscriu-te per seguir llegint