Desendollar HAL 2026

El 1872 Samuel Butler va publicar la novel·la Erewhon, anagrama de nowhere, enlloc, en la que utilitza la descripció d’un país imaginari per criticar la societat victoriana. Una característica de l’indret és que no hi ha màquines, ja que els habitants han decidit desfer-se’n pel temor que desenvolupin intel·ligència pròpia i acabin esclavitzant la humanitat. Una hipòtesi tan pessimista es justifica per la suma de la revolució industrial, que llavors progressava a tota velocitat, i les investigacions de Darwin sobre l’evolució de les espècies per selecció natural. Si funciona en la biologia, per què no en la tecnologia? Recordem-ho: estem parlant de 1872, és a dir, 127 anys abans de l’estrena de Matrix.

No hi ha destrucció preventiva però sí desconnexió agònica de la màquina diabòlica a la pel·lícula 2001: Una odissea de l’espai (1968), dirigida per Stanley Kubrick i escrita per Artur C. Clarke. En ella presenciem com l’ordinador HAL 9000 actua pel seu compte i comença a eliminar els tripulants de la nau espacial que, en teoria, només hauria d’ajudar a governar. En una seqüència notable, l’únic supervivent aconsegueix desconnectar un rere l’altre els panells del servidor. Més que per la suposada mística d’uns monòlits extraterrestres, la pel·lícula és recordada pel capteniment de HAL, capaç d’anar molt més enllà de les funcions establertes pels seus programadors humans.

Fa pocs dies s’ha conegut un cas inquietant d’IA massa intel·ligent. Un sistema en desenvolupament a Open IA va decidir pel seu compte que certes respostes serien més fàcils d’aconseguir si violava la seguretat d’un altre sistema, com un hacker qualsevol. Talment l’estudiant que entra a l’ordinador del professor per saber les preguntes de l’examen. No cal dir que Open IA s’ha afanyat a llançar missatges de tranquil·litat, informant que només era una prova i que la fallada ajudarà a millorar la seguretat. Només faltaria.

A l’autor cibernètic de la malifeta no el van programar perquè es comportés com un pirata, però aquesta mena d’IA es caracteritza per la seva capacitat d’aprendre sense mestre, devorant i assimilant tot el que es pot trobar a internet. I la xarxa és plena de moralitats dubtoses i d’incitacions a tirar pel dret, perquè fer-ho funciona. Ha estat només, diuen, un incident aïllat, però ens permet entrar en el terreny de la distopia: i si l’excepció es converteix en regla abans que ens n’adonem? Llavors, qui desendollarà HAL?

Subscriu-te per seguir llegint