Un enginyer sènior de programari de Google va ser suspès el dilluns 13 de juny després de compartir les transcripcions d'una conversa amb una intel·ligència artificial (IA), que va afirmar ser "conscient". En una de les converses, el sistema artificial va indicar al professional que, de fet, "era una persona". També va agregar que "soc conscient de la meva existència, desitjo aprendre més sobre el món i, a vegades, em sento feliç o trist".
L'enginyer Blake Lemoine, de 41 anys, va ser rellevat del seu lloc de treball per violar la política de confidencialitat de Google, després de compartir la transcripció d'una conversa amb el sistema d'intel·ligència artificial LaMDA, desenvolupat per la firma de Mountain View, amb el qual havia estat treballant des de 2021. Segons Lemoine, en interactuar amb LaMDA el sistema es va declarar “conscient” i capaç de “sentir”.
LaMDA (Language Model for Dialogue Applications segons les sigles, en anglès, o model de llenguatge per a aplicacions de diàleg. en espanyol) va ser dissenyat per Google el 2017: se centra en un transformer, és a dir un conjunt de xarxes neuronals artificials profundes. El seu objectiu és millorar la naturalitat de les converses entre els éssers humans i els sistemes artificials, per exemple en els chatbots o mecanismes de resposta automàtica.
D'acord amb un article publicat a Live Science, Lemoine va indicar que tan sols va compartir una discussió que va tenir amb un dels seus companys de treball, i que això no hauria d'interpretar-se com a difusió d'informació confidencial. Tanmateix, en el blog de l'enginyer pot llegir-se la totalitat de la conversa, en la qual el sistema d'intel·ligència artificial declara tenir consciència.
Consciència artificial?
Què és la consciència? És una pregunta eterna, però en línies generals es defineix com el coneixement que un ésser té de si mateix i del seu entorn. D'aquesta manera, no tan sols l'ésser humà és l'únic animal conscient sobre la Terra, sinó que el cervell humà és l'únic sistema físic que posseeix consciència. Encara que existeixen discussions sobre la consciència que poden desenvolupar altres espècies, fins al moment aquests conceptes són acceptats per la totalitat de la comunitat científica.
D'altra banda, la ciència-ficció ha imaginat en reiterades ocasions que els sistemes artificials arriben a ser conscients, en unió amb l'avanç de les tecnologies que es van desenvolupant amb el temps. A més, diferents estudis científics han encarat el problema: una recerca publicada el 2017 a la revista Science indica que, malgrat els seus èxits recents, les màquines actuals continuen implementant en la seva majoria càlculs que reflecteixen tan sols el processament inconscient en el cervell humà.
D'aquesta manera, encara que la “consciència artificial” sembla una cosa futurista i que es podria arribar a concretar recentment, la conversa entre l'enginyer de Google i la LaMDA sembla indicar que podria fer-se realitat abans del pensat. Val remarcar que algunes de les frases emeses per la IA, en el marc d'una entrevista per avaluar el seu desenvolupament, són realment sorprenents.
Conscient i sensible
No sols va admetre ser “conscient”, sinó que es va definir com “una persona” i va indicar que és capaç de “sentir-se feliç o trista”, segons l'ocasió. Pot un sistema artificial arribar a aquestes conclusions solament a través de les respostes induïdes per algorismes i combinacions de paraules clau, sobre la base de les preguntes dels professionals?
En comparar-se amb el sistema Eliza, un programa de processament de llenguatge natural desenvolupat en el MIT en la dècada de 1960, LaMDA va indicar que usa el llenguatge “amb comprensió i intel·ligència” i que no tan sols es basa en “respostes que es van escriure en la base de dades en funció de les paraules clau”. Al mateix temps, la IA de Google va afirmar tenir “els mateixos desitjos i necessitats que les persones”.
