Durante l’ultima giornata di IAB forum, Emanuele Giraldi, Managing Director Hearts & Science, modera il workshop dove Nicola Gatti, Associate Professor in Artificial Intelligence and Machine Learning Politecnico di Milano, e Vincenzo Russo Professor of Consumer Behaviour And Neuromarketing IULM University, si confrontano per affrontare il tema dell’etica nella comunicazione e nell’intelligenza artificiale.

Cosa sono i “bias”?

Con il termine bias si intendono le distorsioni attuate dalle persone nella valutazione di fatti e avvenimenti. Tali distorsioni conducono alla creazione di una visione soggettiva che non corrisponde alla realtà. I bias sono comunemente chiamati errori cognitivi o più semplicemente stereotipi. Non vanno intesi come errori bensì come scorciatoie che il sistema cerebrale adotta per semplificare la sua attività.

I bias possono essere contenuti in un algoritmo?

Il Professor Gatti racconta dell’esistenza di differenti tipologie di algoritmi. Alcuni di questi vengono codificati per seguire determinati passaggi in un ordine preciso, altri invece sono più complessi. Ad esempio, una buona parte degli algoritmi di Artificial Intelligence (AI) vengono codificati solamente in base al risultato desiderato. Tali algoritmi sono caratterizzati dalla capacità di auto-apprendere dai dati e a volte risulta quindi molto difficile sapere a priori quale sarà l’esatto procedimento che seguiranno. 

Gli errori cognitivi all’interno di un algoritmo possono verificarsi in due casi distinti. Nel primo caso, l’algoritmo ingloba errori cognitivi dai i dati che raccoglie autonomamente. Nel secondo caso, il programmatore volontariamente o per errore inserisce dei bias in fase di programmazione.

Come le differenze di genere influenzano le scelte?

Partendo dal presupposto che la scelta migliore per l’essere umano sia neutrale e incondizionata da bias, sorge spontanea una riflessione. Da sempre, le scelte sono state caratterizzate da differenze, in particolar modo le differenze di genere.
Il Professor Russo spiega come tali diversità siano radicate a livello cerebrale. Ad esempio, l’uomo presenta maggiori connessioni intra-emisferiche, che facilitano la connessione tra la percezione e la coordinazione dei movimenti, rispetto alla donna che invece è caratterizzata da maggiori connessioni interemisferiche, che suggeriscono una maggiore facilità di comunicazione tra le capacità analitiche e l’intuizione.

Tali meccanismi si manifestano in diversi ambiti, ad esempio nella comunicazione e nel linguaggio. Nel primo caso, l’uomo reagisce agli stimoli della comunicazione concentrandosi visivamente sugli elementi centrali e sulle azioni rappresentate. Le donne, invece, sono più propense a focalizzarsi sui dettagli e sui volti raffigurati e risultano essere più sensibili alla narrazione e alle incoerenze nei messaggi pubblicitari. Nel secondo caso, le donne risultano più attente alla dimensione empatica e relazionale del linguaggio, mentre gli uomini utilizzano espressioni che sembrano avvicinarsi alla necessità di individuare una gerarchia, di stabilire o identificare uno status.

Il sistema cerebrale dell’essere umano risponde inizialmente in maniera emotiva e razionalizza solamente a posteriori. Questo concetto deriva dall’importante scoperta del 1996, effettuata dal neurologo statunitense Joseph LeDoux, che dimostrò come gli stimoli attivino prima il sistema limbico, definibile come la parte del cervello più emotiva, e dopo la corteccia cerebrale che rappresenta la sezione più razionale.

Noi non siamo macchine pensanti che si emozionano, ma macchine emotive che pensano

Antonio Damasio – neurologo, neuroscienziato, psicologo e saggista portoghese

In tal senso, dato che gli stimoli vengono analizzati prima dal sistema emotivo e dato che le persone sono caratterizzate da emozioni differenti, è possibile affermare che le persone sono attratte in modo diverso dai medesimi stimoli.

Valorizzando le differenze si potrà garantire l’uguaglianza.

Come vengono interpretate le differenze dagli algoritmi?

Per esemplificare il concetto è possibile prendere in considerazione gli algoritmi di selezione del personale, strumenti che permettono di ridurre il numero di curriculum da analizzare.
Potrebbe accadere che l’algoritmo venga polarizzato da determinate caratteristiche, ad esempio le soft skills femminili che tradizionalmente sono differenti da quelle maschili.
La stessa dinamica potrebbe accadere nei casi di persone con disabilità, che verrebbero automaticamente escluse se l’obiettivo dell’algoritmo fosse solamente il “bene sociale”, traducibile nella massimizzazione del job matching.

Nel caso in cui l’algoritmo reputi più utile concentrarsi su una determinata tipologia di soggetti, si potrebbe incorrere a bias cognitivi importanti. In tal senso, l’obiettivo dell’algoritmo è massimizzare il matching considerando alcuni vincoli che garantiscano la differenziazione.  

Per riuscire a valorizzare al meglio le differenze, si dovrebbero inserire dei bias all’interno dell’algoritmo cosicché quest’ultimo possa prendere delle scelte corrette anche da un punto di vista etico.