Di Valeria Alborghetti e Elisa Carangelo

Avreste mai pensato di trovare problematiche di genere anche nella tecnologia? Ebbene si, la tecnologia non è neutra, anzi: porta con sé molti pregiudizi. Durante lo IAB Forum 2020 ce ne ha parlato Diletta Von Huyskes, ricercatrice in Al Ethics e Politiche Digitali, intervistata da Alessandro Isidoro, giornalista, project manager e consulente. 

Durante il suo intervento, Diletta Von Huyskes fa specifico riferimento alle tecnologie di intelligenza artificiale, le quali utilizzano degli algoritmi di Machine Learning nell’ambito dei processi automatizzati. In particolar modo si parla di tutti quei software e sistemi (estremamente diffusi nella nostra società) impiegati per supportare le decisioni umane e ottimizzarle, sfruttando l’abilità di calcolo e la loro capacità di incrociare enormi quantità di dati. Facendo un esempio concreto, si potrebbe citare l’utilizzo dell’intelligenza artificiale per affiancare la scelta di un candidato piuttosto di un altro in ambito HR, oppure la scelta di una determinata terapia sanitaria in base alla cartella clinica di un paziente. 

Ma qual è il problema principale in termini di discriminazione di genere di queste tecnologie? Si parla di “Gender Bias” per indicare una serie di pregiudizi che vengono replicati ed esasperati, da parte di questi algoritmi, e che discriminano le donne durante i processi tecnologici alla base dei loro sistemi. È essenziale insistere sulle criticità di questi processi perché ci riguardano in prima persona, condizionando le decisioni fondamentali della nostra vita e, nel frattempo, continuando a diffondere e a rafforzare gli stereotipi e i pregiudizi di genere. 

Ma quali sono le cause primarie dell’esistenza di questi Gender Bias? Uno dei motivi alla base è la forte mancanza di donne nel settore relativo le materie STEM (informatica, matematica, ingegneria e soprattutto le loro applicazioni più moderne come la Rata Science e la programmazione di queste IA): il report dello scorso anno riguardante gli specialisti del settore ICT in Europa mostra come l’83% del personale sia di sesso maschile, mentre le donne rappresentino solo il 17%, le quali guadagnano il 19% in meno rispetto agli uomini. Questa sproporzione porta chiaramente ad una mancanza di dati relativa al mondo femminile, comportando così ad una raccolta globale di dati, per fini statistici, relativi unicamente al mondo maschile. Di conseguenza si verifica il fenomeno della “non rappresentatività dei dati”, essendoci nei data set utilizzati per creare gli algoritmi una mancanza di dati eterogeni. È quindi comprensibile il bisogno di un data set originario più rappresentativo possibile del pluralismo della nostra società; da questo, l’algoritmo imparerà autonomamente ad utilizzarlo ed a riapplicarlo ogni volta, con l’esperienza acquisita. 

Gli esempi di queste problematiche di genere sono molteplici: 

• L’Unesco ogni anno pubblica un report avente per tema “Artificially Intelligence and Gender” e lo scorso anno ha particolarmente insisto sul mondo delle assistenti vocali come Alexa e Siri. Ponendo la giusta attenzione, si nota come le loro voci e i loro nomi siano femminili, essendo programmate con lo scopo di prendersi cura dei propri utenti, caratteristica che viene storicamente assegnata e attribuita alle donne, soprattutto nell’ambito domestico in cui nonostante vengano sminuite, rispondono comunque con accondiscendenza, docilità e gentilezza.
• Anche il processo di assunzione dei candidati per Amazon è stato “vittima” degli stereotipi di genere delle tecnologie IA. La grande multinazionale si è infatti servita di un algoritmo per attuare una prima scrematura di cv: durante questa fase l’algoritmo ha quasi del tutto escluso le donne dalla selezione, in quanto, basandosi sull’esperienza e notando che negli anni precedenti poche donne erano state assunte per quella specifica posizione, ha deciso di adoperare una tendenza che considerava oggettiva, ripetendo così la storia passata. 
• AlgoritmWatch ha effettuato uno studio, pubblicando una serie di annunci di lavoro su Facebook, tramite Indeed, senza targettizzare il contenuto delle pubblicità. Tuttavia Facebook, all’insaputa degli autori del post, ha targettizzato il contenuto mostrando posizioni aperte per camionisti, creatori di machine learning e consulenti legali agli uomini e posizioni per parrucchiere, infermiere, e assistenti alla cura dei bambini alle donne. 

Quelli soprastanti sono solo pochi degli esempi esistenti, ma succede davvero spesso che questi algoritmi influenzino le vite delle donne con decisioni fondamentali, come per l’appunto la scelta di un impiego. Da questi esempi emerge come gli algoritmi di intelligenza artificiale si basino sull’esperienza e su set di dati poco inclusivi e variegati rendendo, di conseguenza, impossibile ogni forma di progresso. Considerando che la nostra società è in continua evoluzione, mantenere un algoritmo che pretende di prevedere il futuro in base a comportamenti passati, come se il passato si ripetesse all’infinto, non permette di tener conto e sfruttare il progresso fisiologico della nostra società come, al contrario, farebbe una decisione umana che attingerebbe direttamente dalla realtà, capace di imparare dagli errori. 

Esistono soluzioni concrete a questo problema? Certo. Senza ombra di dubbio, il problema è sociale: gli algoritmi non inventano di per sé e se un algoritmo esiste in un certo modo è perché esiste in primis un pregiudizio a livello sociale.

Un passo verso la soluzione di questo problema è la sensibilizzazione nel rendere la società consapevole dell’esistenza di questi errori nella tecnologia. Di conseguenza, un aumento della partecipazione a livello di cittadinanza nelle nostre nazioni, chiedendo dei cambiamenti tangibili in questo senso, sarebbe un’azione concreta in risposta a questa situazione. Un’ulteriore soluzione riguarda proprio l’intelligenza artificiale, con l’utilizzo di meccanismi di “bias detection” che rilevano, qualora ci fossero, delle eventuali criticità all’interno dei data set. Infine è essenziale, sottolinea la ricercatrice, adottare costantemente dei principi etici che siano reali e costanti e soprattutto, spingere per l’adozione di set di dati che siano più inclusivi e rappresentativi possibili, rispecchiando la nostra complessità sociale. 

Diletta Von Huyskes conclude:

“La tecnologia non è magia, nulla è inventato dal nulla. La vera rivoluzione deve avvenire fisicamente e offline nei nostri comportamenti quotidiani; solo allora potremo migliorare ed evolverci anche tecnologicamente”.