28 de novembre de 2018
28.11.2018

Google elimina els pronoms de gènere en les seves respostes automàtiques per evitar prejudicis sexistes

La nova política afectarà les possibles respostes suggerides automàticament per 'Smart Reply'

28.11.2018 | 09:48
Google elimina els pronoms de gènere en les seves respostes automàtiques per evitar prejudicis sexistes

La tecnologia 'Smart Compose' de Google, amb la qual els missatges de Gmail es completen de forma automàtica la base de la Intel·ligència Artificial (IA), ja no proposarà pronoms basats en el gènere, amb l'objectiu d'evitar prejudicis sexistes.

El director de producte de Gmail, Paul Lambert, ha anunciat aquesta novetat en una entrevista a Reuters, on ha explicat que un investigador de Google va descobrir el problema el gener d'aquest any. Per evitar errors i prejudicis en els suggeriments relatius a la identificació de gènere, 'Smart Compose' deixarà de mostrar pronoms com "ella" o "ell" en les frases que suggereix. Lambert ha declarat a Reuters que "no tots els errors són iguals" però que el gènere és una cosa "massa important" per a equivocar-se.

'Smart Compose' és una eina de generació de llenguatge natural basada en IA a través de la qual un ordinador és capaç d'aprendre a escriure oracions mitjançant l'estudi de patrons de l'usuari i relacions entre diferents paraules a aspectes com la literatura, les pàgines web i els correus electrònics.

El sistema completa frases a partir de l'exposició a bilions d'oracions humanes, en les quals poden aparèixer generalitats. A causa de la història en àmbits com la ciència o els negocis, la tecnologia d'IA tendia a aventurar de forma equivocada que el gènere d'un inversor o un enginyer és masculí.

Lambert ha destacat que, després que quinze enginyers i desenvolupadors provessin diferents solucions, cap de les opcions valorades estava totalment lliure de prejudicis.Per això, Google ha optat per deixar d'utilitzar pronoms que impliquen gènere.

La tecnologia 'Smart Compose', segons s'ha indicat en la publicació, assisteix a l'11% dels missatges enviats a través de Gmail, i Lambert ha afirmat que la prohibició en l'ús dels pronoms afecta menys de l'1% dels casos .

Per descobrir nous prejudicis pel que fa a gènere en les aplicacions d'Intel·ligència Artificial de Google, Lambert ha comentat que l'empresa utilitza proves desenvolupades pel seu equip d'ètica d'IA, i investiguen en els sistemes per trobar els errors mitjançant un equip de 'spam' i abús.

La nova política que elimina els pronoms basats en gènere també afectarà les possibles respostes suggerides automàticament per 'Smart Reply', el servei de Google que permet als usuaris respondre de forma instantània a missatges de text i correus electrònics.

Google va presentar l'eina 'Smart Compose' a la conferència I / O per a desenvolupadors, celebrada al maig a Mountain View, Califòrnia (Estats Units) i la va incorporar al servei de correu electrònic de Google en anglès a l'agost d'aquest any. De moment, es troba disponible només en anglès, però arribarà aviat en els idiomes espanyol, portuguès, italià i francès.

Compartir a Twitter
Compartir a Facebook