A Trento in occasione del seminario internazionale FBK-ISR, la ricercatrice Ilaria Valenzi ha illustrato il report “Bias in Algorithms – Artificial Intelligence and Discrimination”, pubblicato dalla European Union Agency for Fundamental Rights in cui emerge che i pregiudizi negli algoritmi tendono a manifestarsi e ad amplificarsi nel tempo, influenzando la vita delle persone e potenzialmente creando situazioni discriminatorie.
Lo studio ha esaminato l’utilizzo dell’intelligenza artificiale nel campo della polizia predittiva e nel rilevamento dei discorsi offensivi online, mostrando come funzionano gli algoritmi nella pratica, sviluppando dei modelli e valutandone l’affidabilità per i diritti, in particolar modo delle minoranze. Sono numerosi i casi di intelligenza artificiale che ha “imparato” a discriminare secondo il genere o l’etnia per la selezione di curricula o per il riconoscimento facciale (in cui la macchina riconosce ad esempio il volto di persone bianche di sesso maschile ma non quello di persone nere di sesso femminile), o associando il colore della pelle esclusivamente ad alcune mansioni di lavoro.
I risultati della ricerca evidenziano come alcuni termini legati a caratteristiche protette delle persone, come ad esempio la religione, l’etnia, il genere e l’orientamento sessuale, contribuiscono a classificare un testo, un post o un commento online, come offensivo. Lo studio conclude con il suggerimento di prestare particolare attenzione all’uso di algoritmi di apprendimento automatico e al processo decisionale automatizzato, assicurandosi che vengano effettuate valutazioni periodiche, migliorando la qualità dei dati. Sarà inoltre sempre più necessario promuovere la diversità linguistica per mitigare i pregiudizi negli algoritmi e restituire la varietà dei nostri contesti sociali e culturali.
Per approfondimenti visita il sito Magazine di FBK
Agenzia UE per i diritti fondamentaliFonte: Cinformi