ChatGPT Salut: el nou espai "privat i xifrat" del xatbot de moda

La intel·ligència artificial va més enllà i no sols et fa els treballs i de psicòleg, a més ara, et fa de metge. ChatGPT ha adoptat una nova opció i és que sol·licita als usuaris del xatbot que pengin el seu historial mèdic per tal d'ajudar-los. Tot i això, OpenAI va anunciar la setmana passada que el xatbot no està dissenyat per fer diagnòstics.

Aquesta nova opció ha despertat els dubtes 'experts sobre efectes jurídics, tècnics i ètics.

ChatGPT Salut (ChatGPT Health, en anglès) és un espai "privat i xifrat" dins del popular assistent conversacional d'IA que permetrà "entendre millor els resultats de les teves anàlisis, seguir les teves dades de salut i preparar-te per a la pròxima cita mèdica". Els usuaris podran penjar les seves dades mèdiques al sistema, dissenyat juntament amb més de 260 professionals de la salut, però també connectar les generades per aplicacions com Apple Health, MyFitnessPal o Peloton. Ara com ara, el seu accés és limitat.

Per tal de rendibilitzar les seves inversions, OpenAI està apostant per desplegar les solucions a l'entorn sanitari, on altres tipus d'IA ja estan jugant un rol destacat en la predicció del risc de patir malalties o en la gestió administrativa. "L'accés limitat a l'atenció mèdica, l'estigma i la comoditat d'obtenir respostes a casa redueixen les barreres. Amb tan poca fricció, l'adopció s'accelerarà", ha vaticinat la investigadora Shalini Kurapati. Aquesta oportunitat de negoci explica que fa uns dies també anunciés OpenAI for Healthcare, una sèrie de productes destinats a les organitzacions sanitàries.

Errors que poden costar vides

Els models de llenguatge que donen forma als xatbots d'IA són probabilístics i estocàstics, cosa que significa que construeixen frases perquè siguin plausibles, però no perquè siguin certes. Aquest problema inherent a l'anomenada IA generativa, conegut popularment com a al·lucinació, fa que l'ús de ChatGPT per a qüestions com la salut sigui potencialment "perillós", adverteix Alfonso València, professor ICREA i director del Departament de Ciències de la Vida del Barcelona Supercomputer Center. Una investigació recent de científics de les universitats de Stanford i Harvard mostra que els models desplegats a l'entorn sanitari fallen perquè no inclouen recomanacions crítiques en fins a un 22% dels casos.

Què passa si un usuari comparteix un quadre de símptomes concret i l'aplicació us recomana un tractament inadequat? Tot i que OpenAI assegura que la nova funció "no està dissenyada per diagnosticar", els experts recorden que ChatGPT ja ho fa. "Cometrà errors, generarà males interpretacions i posarà el doctor en una posició complicada", vaticina el directiu del BSC. "Això obre la porta a recomanacions sobre la teva salut marcades per biaixos culturals o de raça", afegeix Jorge Morell, advocat especialitzat en Dret de noves tecnologies.

Al camp de la salut, aquests errors poden "enviar algú a l'hospital" i, en definitiva, costar vides. OpenAI i altres empreses que comercialitzen assistents conversacionals d'IA afronten diverses demandes pel suïcidi d'usuaris. De vegades, el xatbot va instar la víctima a ocultar les seves intencions a la seva família. "Si n'hi ha hagut per qüestions de salut mental també n'hi haurà per recomanacions clíniques incorrectes", afegeix Morell.

"Atemptat contra la privadesa"

Ara com ara, i com ja és habitual al sector tecnològic, l'última novetat d'OpenAI no estarà disponible a la Unió Europea, ja que no és clar que compleixi amb el Reglament General de Protecció de Dades (RGPD) ni amb la Llei d'IA, que considera l'aplicació de sistemes algorítmics a l'àmbit de la sanitat com d'alt risc per als ciutadans. A Europa, les dades de salut es consideren especialment sensibles, cosa que en dificulta el tractament. "Què passa si un usuari comparteix la història clínica dels seus pares o fills? El repte serà verificar si compta amb el seu consentiment específic per fer-ho", assenyala Morell.

Altres experts veuen altres problemes. La nova funció és "per a les companyies asseguradores, per poder fer millors perfilats dels seus possibles clients i ajustar les quotes i serveis", ha assegurat la delegada de Protecció de Dades i pèrit judicial Laura San Miguel, que considera la funció un "atemptat contra la privadesa brutal". El pecat original apunta València, és “la cessió de la nostra identitat i autonomia a empreses nord-americanes”.

Seguretat de les dades?

D'altra banda, OpenAI assegura que la informació confidencial que l'usuari comparteixi amb ChatGPT Salut quedarà aïllada de la resta de converses amb el xatbot i no es farà servir per entrenar els seus models d'IA. Amb aquesta declaració, la firma promet que es preservarà la privadesa. Tot i això, OpenAI podria patir una bretxa de seguretat que exposi als seus usuaris. El 2023, un ciberatac a l'ara trencada empresa genòmica i biotecnològica 23andMe va aconseguir robar dades genètiques de gairebé set milions de persones. "És qüestió de temps que això passi", valora Morell. "La privadesa ha mort en gran part perquè som molt còmodes".

Tot i que considera que "a llarg termini aquestes aplicacions acabaran integrant-se", València aposta per una altra IA als centres mèdics: sistemes informàtics que ajudin els metges a gestionar el tracte als pacients, a interpretar els resultats o a tractar malalties, però que ho facin complint amb les normes. El BSC desenvolupa juntament amb l'Hospital Sant Joan de Déu i amb l'ajuda de la Generalitat un sistema per ajudar a classificar i contestar trucades al sistema d'emergència primària de menors. Tot i això, lamenta, a OpenAI i a altres apps d'autodiagnòstic "no els estem exigint el mateix que a la resta del sector".