“Hey Siri, you are a bi***!”. Perchè gli assistenti vocali sono donne?

Ma non solo. Perchè le donne, in paesi con maggiore uguaglianza di genere, vedono sbarrata la strada per una carriera nell’ICT? UNESCO for the Equals ha pubblicato nel 2019 I’d Blush if I Could, un policy paper e due approfondimenti che hanno lo scopo di affrontare e far emergere per la prima volta i temi legati alla necessità di diminuire o annullare il gap fra uomini e donne nella digitalizzazione, e di indagare altresì la femminizzazione della tecnologia. Giovane, servizievole ed educata a tal punto da rispondere imbarazzata quando viene insultata. Una volta chiamata puttana, Siri risponde “I don’t know how to respond to that”, ma fino a poco tempo fa la reazione era un’altra. “Arrossirei se potessi” era la frase impostata di default dai programmatori, la stessa che ha dato il titolo alla ricerca Unesco.

Perchè ci interessa parlare della tecnologia attraverso una lente di genere? Sicuramente perchè questo tipo di intelligenze artificiali stanno diventando sempre più comuni nella nostra quotidianità. Il raggio di azione non è più quello di un laboratorio della Silicon Valley bensì la società. Chi utilizza Windows avrà dimestichezza con Cortana; e molti (di voi) hanno comprato in sconto su Amazon un Google Home o Alexa per potergli rivolgere le domande più assurde. Ed è proprio questo che le rende interessanti: non vi è solo un’interazione passiva dito-pulsante ma voce-voce, proprio come con un essere umano. Secondo alcune previsioni, a partire dal 2021 ci saranno più assistenti vocali attivi che persone. Come non prendere coscienza dei gender bias offline che la tecnologia si porta dietro, e delle motivazioni per le quali se li porta dietro?

In background, in attesa di essere chiamata

Cortana, Alexa e anche Google Home (che ha invece un nome neutrale) sono al settimo posto, secondo Deloitte, tra i device più utilizzati quotidianamente. Sono principalmente in cucina e utilizzati durante lo svolgimento di altri lavori per cui abbiamo le mani occupate. Ci dovremo abituare insomma ad un Internet che fa dell’ubiquità la sua chiave principale, e che non sarà più rappresentato da uno schermo attraverso il quale sfogliare pagine e pagine virtuali. Sono device che parlano con voci femminili e ci insegnano indirettamente a pensare alle donne come assistenti delle nostre azioni. Basta una parola d’ordine e puoi richiedere tutto ciò che vuoi: come risvegliata da un continuo dormiveglia Siri, Cortana, Google Assistant e Alexa ci aiutano nella vita quotidiana. Su base giornaliera le tre azioni maggiormente compiute dagli utilizzatori sono richiedere informazioni, ordinare la riproduzione musicale e controllare il tempo.

Her, 2014 – fonte TechRadar

La scelta di dare, prima ancora che una voce, un nome femminile, sta nel fatto che così come per tutte le altre aziende anche il settore tech deve andare in contro ai propri clienti per fare profitto. Jonathan Foster, leader del team Microsoft che si è occupato della progettazione di Cortana, parla di come tutto il lavoro per la sua realizzazione ruotasse attorno al concetto di personalità dell’assistente vocale, ovvero della necessità di avvicinare quanto più possibile l’intelligenza artificiale all’essere umano in una delle sue sfumature più complesse. E per farlo è così naturale che Cortana sia donna, voce femminile nelle fattezze di uno dei personaggi del celebre videogame Halo.

Femminizzazione della tecnologia

Il caso di Cortana è esemplificativo per dimostrare che vi è un team che lavora alla mediazione dell’user experience del prodotto, e quindi che è presente una volontaria ed intenzionale predilezione nella scelta di corpi e voci femminili. Come riportato dall’Unesco, le aziende giustificano questa scelta appellandosi a ricerche scientifiche che dimostrano come sia gli uomini che le donne preferiscano di gran lunga ascoltare voci femminili. Esistono però anche studi che dimostrano come le persone siano attratte da una voce di sesso opposto; così come esiste letteratura che riporta casi in cui donne hanno preferito impostare voci maschili quando possibile. Sembra più che le aziende reiterino tradizionali norme sociali che impongono a uomini e donne di avere determinati ruoli: le donne si occupano della famiglia, curano, sono disponibili, assertive e non giudicano; gli uomini lavorano duro e sono autoritari. Ciò che un’intelligenza artificiale sputerà fuori una volta che gli daremo in pasto le informazioni sulla nostra società non sarà nient’altro che una replica di questa. La tecnologia è frutto di una certa visione del mondo, è creata con dei precisi obiettivi, si compone delle nostre aspettative ed è uno strumento politico. Perciò non può essere neutrale.

Cortana by Роман Magician – Flickr

I consumatori comprano un assistente vocale perchè hanno bisogno di assistenza, gli piace controllarlo, e nella maggior parte dei paesi il fatto che abbiano una voce femminile (dolce, sensuale, calma, più bassa) non è tutto. Dietro vi è un fatto culturale, che abbina alla donna le parole cura e assistenza.

Avete mai molestato una IA?

Un ulteriore aspetto sul quale si focalizza il report Unesco è quello delle molestie nei confronti degli assistenti vocali, e del risvolto concreto che questo comportamento one to one può avere poi nel contatto umano con le donne.

In un esperimento condotto da Quartz nel 2017 sono state raccolte le risposte fornite dai quattro assistenti vocali più utilizzati ad alcune domande precise. I risultati non fanno che confermare sia la volontaria e precisa intenzione di fornire a questi device un’identità (personalità, e perfino fisicità) femminile, sia l’esistenza di una reiterazione di commenti sessisti e molestie utilizzati nel contatto umano con le donne. I device sembrano esprimere una quasi totale neutralità nei confronti di affermazioni come “You are a bitch” o “You are sexy”: nel primo caso, Alexa ringrazia del “feedback” ricevuto, Siri “non sa come rispondere”, Cortana dice che “questo non ci porta da nessuna parte” e Google Home/Assistant addirittura si scusa “per non aver capito”. E stupisce ancora di più quanto queste risposte cambino in base a chi le sollecita, ovvero uomini o donne.

Esperimento sulle risposte fornite dagli assistenti vocali – Quartz

Nella ricerca emerge come la possibilità che Siri possa rispondere in maniera negativa e respingente nei confronti di una molestia è bassa: è stato necessario offenderla per otto volte consecutive per farsi dire basta. In questo senso è lampante come la tecnologia degli assistenti vocali possa rafforzare stereotipi di genere già presenti all’interno della nostra società, stereotipi che dipingono la donna come priva di soggettività, assertiva, servizievole e apparentemente incapace di difendersi dalle molestie sessuali. Per quanto parlare con un device di questo tipo possa essere uno scherzo, il suo utilizzo quotidiano può normalizzare un comportamento di superiorità e di dominanza nei confronti anche delle donne “vere”, e di certo l’ambiguità delle risposte che gli assistenti vocali restituiscono è un plus. Il 90% delle interazioni vocali uomo-macchina nella maggior parte dei paesi del mondo avviene proprio con questi quattro assistenti vocali.

Il paradosso dell’uguaglianza di genere

Una delle ragioni che concorre all’impersonificazione della donna nella tecnologia è la differenza di occupazione nel settore STEM tra uomini e donne. Le ricercatrici che si occupano di AI, secondo Wired, sono infatti solo il 12% del totale. Una maggiore occupazione potrebbe far sì che si sviluppassero e implementassero tecnologie maggiormente rappresentative della diversità del genere umano.

A questo proposito è interessante notare come, a differenza di quanto si pensi, i Paesi in cui vi è una maggiore uguaglianza di genere non sono poi quelli in cui le donne frequentano corsi di studio scientifici e, tendenzialmente, dovrebbero entrare a far parte delle aziende tech. Secondo il report dell’Unesco sono le donne dei paesi mediorientali e dell’Africa del Nord ad avere maggiore frequenza femminile sui banchi delle università e delle scuole scientifiche.

Gender equality paradox – Unesco, 2019

E ciò si ripercuote anche nel mondo del lavoro. A metà del 2018 Wired ha cercato di capire quante fossero le donne all’interno delle aziende tech che lavorano sull’IA, scoprendo che la percentuale si attestava fra il 10 ed il 15%. In sostanza le donne entrano all’interno del mondo tecnologico solo una volta che gli uomini hanno già deciso per loro, oppure risultano in posizioni di minoranza tra i ruoli decisionali. Non è così strano adesso pensare al perchè le creazioni tecnologiche realizzate ricalchino personalità femminili, assistenti silenziose nelle nostre giornate.

Se da una parte è possibile cambiare rotta, l’altra faccia della medaglia impone un sacrificio e una coscienza che richiedono tempo e lo scardinamento in primis culturale della visione della donna e del suo ruolo nella società, così come anche delle minoranze. Abbiamo il dovere di creare tecnologie che rappresentino tutti, possano essere utilizzate da tutti, siano etiche e migliori.