Un jutge enxampat pel rastre de ChatGPT: la IA entra als tribunals i encén totes les alarmes

La intel·ligència artificial ja no és una eina de futur: és una realitat instal·lada en milers de llocs de treball. A Espanya, cada vegada més empreses han incorporat sistemes d’IA per redactar textos, resumir documents, analitzar dades, automatitzar tasques o accelerar processos interns. Segons les dades de l’INE, el 21,1% de les empreses de 10 o més treballadors ja utilitzava intel·ligència artificial el primer trimestre del 2025, 8,7 punts més que l’any anterior.

Aquesta expansió ha fet que, en molts sectors, eines com ChatGPT hagin passat de ser una curiositat a convertir-se en una ajuda habitual —i, en alguns casos, gairebé imprescindible— per als treballadors. Però no tots els àmbits poden fer-ne el mateix ús. Hi ha empreses, administracions i espais públics on la IA generativa està limitada o directament prohibida quan pot afectar dades personals, informació confidencial o decisions que han de dependre exclusivament d’un criteri humà.

I aquí és on esclata el cas que ara investiga el Consell General del Poder Judicial (CGPJ): un magistrat d’una Audiència Provincial ha estat expedientat per haver utilitzat ChatGPT per elaborar l’esborrany d’una sentència judicial.

El cas del jutge que va deixar les preguntes a ChatGPT dins la sentència

Segons ha avançat El Español i han confirmat fonts del Poder Judicial a EFE, el magistrat hauria fet servir intel·ligència artificial per redactar una resolució judicial. El problema no va ser només l’ús de l’eina, sinó com ho va fer: hauria pujat a la IA la totalitat de les actuacions del cas i després hauria redactat la sentència a partir de preguntes dirigides a obtenir text.

El jutge va ser descobert per un error tan simple com greu: va oblidar eliminar les consultes fetes a ChatGPT del text del qual era ponent. És a dir, el rastre de la IA va quedar dins el document que havia de presentar a la resta de membres del tribunal.

El promotor de l’acció disciplinària, Ricardo Gonzalo Conde, qüestiona que el magistrat presentés una “aparent sentència” motivada per “mètodes artificials” a partir de l’anàlisi informàtica que ChatGPT havia fet de les actuacions judicials. També considera que el jutge hauria actuat “eludint complir amb la seva funció jurisdiccional”.

La proposta és sancionar-lo amb quinze dies de suspensió i una multa de 501 euros. Ara bé, el cas no està tancat: la Fiscalia proposa arxivar l’expedient perquè considera que no s’ha produït cap infracció disciplinària. La decisió final correspondrà a la Comissió Disciplinària del CGPJ.

Per què aquest cas és tan delicat?

El fons de la polèmica no és només que un jutge hagi fet servir ChatGPT. De fet, el promotor no qüestiona la utilització de la intel·ligència artificial “per se”, sinó que s’hauria utilitzat per esquivar una part essencial de la feina judicial: estudiar el cas, valorar els arguments i motivar la decisió.

Segons el promotor, pujar a una eina d’IA “la totalitat de les actuacions” i redactar una sentència a base de preguntes, sense avisar la resta del tribunal i sense prendre la “menor protecció” sobre les dades personals dels autos, seria “una infracció del més elemental deure judicial de dictar sentència i de lleialtat”.

Això obre una pregunta incòmoda per als ciutadans: si una sentència pot haver estat elaborada amb una eina externa, qui garanteix que s’han protegit les dades? Qui assegura que el jutge ha revisat críticament cada argument? I fins a quin punt podem confiar en una resolució si no queda clar quin paper ha tingut la màquina?

El CGPJ ja havia avisat: la IA no pot substituir un jutge

El cas arriba poc després que el CGPJ aprovés, el 28 de gener del 2026, una instrucció específica sobre l’ús de sistemes d’intel·ligència artificial en l’activitat jurisdiccional. Aquesta norma estableix que la IA només pot ser una eina de suport i que sempre ha d’estar sotmesa a un “control humà real, conscient i efectiu”.

La instrucció també deixa clar que els sistemes d’IA no poden prendre decisions judicials, valorar fets o proves, ni interpretar i aplicar el dret de manera autònoma. A més, prohibeix incorporar a resolucions judicials continguts generats per IA sense una validació crítica, completa i personal del jutge o magistrat.

Un altre punt clau és que els jutges només poden utilitzar eines d’IA facilitades per les administracions competents en matèria de Justícia o pel mateix CGPJ, i sempre dins dels usos permesos. També queda prohibit introduir dades judicials en sistemes d’IA no autoritzats.

Una advertència per a empreses, administracions i ciutadans

Aquest cas mostra la gran contradicció del moment actual. D’una banda, la IA s’ha estès a les empreses, als despatxos, a les redaccions, als departaments comercials i a moltes feines administratives. De l’altra, hi ha àmbits on no n’hi ha prou amb ser més ràpid: cal garantir responsabilitat, confidencialitat i control humà.

En una empresa, fer servir ChatGPT per redactar un correu o resumir un informe pot ser una ajuda. Però en un tribunal, una sentència judicial no pot convertir-se en un text fabricat per una eina externa sense supervisió real. La justícia no només ha de ser eficient: ha de ser fiable, transparent i humana.

La conclusió és clara: la intel·ligència artificial pot ajudar, però no pot substituir el criteri d’un professional quan hi ha drets, dades personals i decisions importants en joc. I encara menys quan qui decideix és un jutge.