La IA també necessita frens

La carta oberta Pacing the Frontier, feta pública aquesta setmana i firmada per més de 1.300 treballadors i responsables d’algunes de les principals empreses d’intel·ligència artificial, ha passat força desapercebuda. Qui la firma no són adversaris de la tecnologia, sinó persones que la construeixen i que coneixen de primera mà tant el seu potencial com els seus riscos. La petició no és aturar la IA, sinó disposar de mecanismes tècnics i polítics per alentir-ne el desenvolupament si arriba a superar la nostra capacitat de supervisió. Els qui avui tenen el peu sobre l’accelerador també reclamen un fre.

La intel·ligència artificial ja està aportant grans avenços en medicina, ciència, educació o productivitat. Però la competència entre empreses i països empeny a avançar cada vegada més de pressa, fins i tot quan els mateixos protagonistes admeten que els controls són insuficients.

No cal pensar en màquines conscients per prendre seriosament els riscos. Un sistema que actua de manera imprevista, aprofita una vulnerabilitat o persegueix un objectiu mal definit pot causar conseqüències importants sense tenir cap voluntat pròpia. Per això calen avaluacions independents, normes compartides i mecanismes d’emergència que permetin limitar els models més potents. La regulació no hauria d’impedir la innovació, sinó evitar que aquesta avanci sense garanties.

Hi ha cartes obertes que neixen condemnades a convertir-se en una declaració benintencionada i desaparèixer engolides per l’actualitat. La que ens ocupa no hauria de seguir aquest camí. Ens hi juguem que la IA continuï al servei de les persones.

Subscriu-te per seguir llegint