Anche gli algoritmi discriminano

Gli algoritmi sono sempre più utilizzati in diverse applicazioni della vita di tutti i giorni, ma talvolta possono essere 'razzisti', discriminando razza e genere.

Anche gli algoritmi discriminano



Durante un congresso organizzato dal Mit di Boston, è stato lanciato l'allarme dagli esperti. I partecipanti, insieme all'Unione americana per le libertà civili hanno deciso di creare la AI Now initiative, per andare a caccia delle intelligenze artificiali 'razziste'.

"Il pregiudizio può esistere in ogni tipo di servizi e prodotti. Siamo ancora agli albori della comprensione del fenomeno, ma più investighiamo più ne troviamo" spiega alla rivista del Mit Kate Crawford, uno dei fondatori.

L'università di Bath ha dimostrato su Science che gli algoritmi che si utilizzano per interpretare il linguaggio hanno acquisito molti dei 'bias' verificati nell'uomo dagli esperimenti di psicologia. Le parole 'femmina' e 'donna' ad esempio vengono associate maggiormente ad occupazioni 'umanistiche' e legate alla casa.

.