Intel·ligència Artificial (1)

Als anys 1970-80 i 90 una de les grans novetats de la intel·ligència artificial van ser els sistemes experts, sistemes que intentaven emular el «raonament» d’un expert quan intentava decidir sobre un problema complexa del qual tenia informació incompleta. Un exemple va ser el dels sistemes d’ajuda al diagnòstic mèdic, basant-se en una sèrie de regles del tipus «si té febre poc alta i li costa respirar és bastant possible que tingui una malaltia pulmonar» en la que s’utilitzen expressions com «poc alta» i «bastant possible» no ben definides per «raonar» (raonament aproximat en diem) s’arribava a un diagnòstic a partir de les dades del malalt. Si la base de regles era prou completa, descrivia la majoria dels símptomes que podien portar a diagnosticar una malaltia, i la forma de raonar, inferir coses, era prou bona el sistema podia ser de gran utilitat. Un cas que em va sorprendre quan uns metges feien servir un sistema expert d’ajuda al diagnòstic en pneumònies, va ser un cas de pneumònia causada per ingestió de pols, el malalt treballava de paleta, que el metge no havia considerat perquè és un cas molt poc freqüent i el sistema el va posar sobre la taula perquè tenia regles que el consideraven. Però de la mateixa manera que hi havia coses positives n’hi havia de negatives, amb humor un crític dels sistemes experts deia que un sistema expert podia preguntar quantes pulsacions tenia un malalt quan se li havia comunicat que tenia un símptoma que deia que ja era mort (el sistema expert podia no conèixer un símptoma de què el malalt ja era mort).

Vol dir això que la IA no és fiable? Sí, si la fem servir per a el que serveix, no si pretenem fer-la servir com un oracle que sempre diu «la veritat». Posaré uns exemples d’us adequat i no dels resultats d’un sistema d’IA. Un cas d’us adequat és el d’un sistema (anomenat 01 i que no és un sistema expert) que ha demostrat que millora el diagnòstic i les derivacions a urgències. Diu que encerta més que els metges inclús ajudats per altres sistemes com ChatGPT04 i ho han publicat en una prestigiosa revista de medicina. Els investigadors que han dirigit el treball tenen el bon criteri de dir que el sistema és d’ajuda als metges que són els que han de prendre la decisió final perquè el sistema no encerta en tots els casos i deixar-lo decidir sense supervisió podria portar a errors irreversibles. Un cas d’ús inadequat de la IA és el que s’està fent servir a les guerres, un software per detectar objectius, és el cas, per exemple del software que s’ha fet servir per part de l’exèrcit israelià en la guerra de Gaza per detectar membres de Hamàs o altres objectius. Un sistema no perfecte i opac (no tenim cap control dels algoritmes i bases de dades utilitzats) s’ha utilitzat com a oracle per determinar on es troben membres de Hamàs i s’han llençat bombes o míssils a llocs on (1) no hi havia seguretat absoluta que hi haguessin els membres de Hamàs que diuen que hi ha i s’han produït morts d’un grapat de víctimes innocents que es trobaven en el lloc equivocat en aquell moment. Tot i que en els dos exemples sempre hi ha una decisió final humana, del tractament i proves que s’hauran de fer als malalts de les urgències i de disparar o no les bombes o míssils, en un cas el resultat del sistema està supervisat pel metge mentre que en l’altre el militar segueix el que li diu el sistema com si el resultat donat fos cert sempre, com si es tractés d’un oracle sense intentar determinar si el que li diu és cert o no.

Un tema que encara s’ha investigat poc és que passa en els casos que el sistema d’IA s’equivoca, en els casos que el sistema erra la resposta, sempre només es parla del grau d’encert que s’ha aconseguit i poc o gens dels errors. Per exemple, en el cas de les urgències, és molt important determinar per quines raons (les causes estan a les tripes del sistema d’IA) el sistema és menys eficient i fiable que els metges en els casos que passa això. En ciència sempre han estat importants els fracassos perquè molts cops en ells es troba el germen per poder avançar i millorar els resultats científics. De moment però poques vegades s’expliquen aquests fracassos.

Per acabar, tornaré a la realitat present per parlar de la no convalidació del decret sobre congelació de lloguers en una votació on van coincidir els vots de Junts, PP i Vox. El dret a l’habitatge és un dret fonamental consagrat en la Constitució. El problema de l’habitatge tal com està plantejat avui necessitaria un pla, consensuat pels partits de govern, que duri més d’una legislatura. Però mentre aquest pla no existeixi, algú pot negar que s’ha de protegir els llogaters de forma que el lloguer no pugui augmentar per sobre de la inflació? PP i Vox entenc que ho tombessin perquè diuen que no a tot el que proposa el govern, estan en època d’assetjament i enderroc, però Junts té alguna cosa contra que els llogaters puguin continuar vivint en els pisos que tenen llogats?

Subscriu-te per seguir llegint