I Fattori Umani, con il loro approccio centrato sulla persona, possono aiutare a colmare il gender gap nella ricerca e progettazione, migliorando qualità, sicurezza ed efficacia delle soluzioni sviluppate. Solo così l’innovazione può essere “sostenibile”, realmente orientata ai bisogni di tutte e tutti.
Gender Gap in ricerca e progettazione: quando la tecnologia esclude
Se una donna ha un incidente stradale, le probabilità che si faccia più male di un uomo sono nettamente superiori. Non perché guidi peggio, ma perché le auto non sono state progettate per lei. I crash test delle automobili sono nati utilizzando manichini con corporatura da “uomo medio”. Dagli anni Sessanta del secolo scorso è stato introdotto un modello femminile, ma è semplicemente una versione ridotta di quello maschile che non tiene conto né delle dimensioni né delle forme di un corpo femminile standard (ma neppure di persone obese o anziane, anch’esse distanti dal prototipo del maschio medio).
Ecco un esempio di tecnologia che non funziona allo stesso modo per tutte e tutti. E non perché sia fatta male, ma perché è stata progettata pensando a un solo tipo di persona. Di casi simili ce ne sono molti e in ogni ambito: farmaci e dispositivi medici; ergonomia di oggetti, macchine e postazioni di lavoro; dispositivi di sicurezza e protezione individuale; strumenti di intelligenza artificiale. Sono la dimostrazione che quando fattori come sesso, genere, etnia o disabilità — e le loro intersezioni — non vengono presi in considerazione nelle fasi di ricerca, progettazione, raccolta dati e analisi risultati di un prodotto, che si tratti di una cintura di sicurezza, una medicina o uno strumento di IA, l’innovazione finisce con l’escludere, e persino danneggiare, gran parte della popolazione.
It’s a man’s world
Perché questi bias? “È una questione puramente storica e culturale – dice Mara Marzella, sociologa, Senior Consultant in Deep Blue – il nostro mondo, dagli oggetti che usiamo ogni giorno alle tecnologie più avanzate, è stato storicamente progettato da e per un unico profilo di individui: uomini, bianchi, abili”. “Per lungo tempo solo loro hanno potuto frequentare scuole, università e poi ricoprire ruoli tecnici e decisionali nella società, plasmando lo sviluppo tecnologico, industriale e culturale – prosegue Marzella – torniamo alle automobili: chi sedeva ai tavoli in cui si decidevano forma, funzione e sicurezza? Uomini. Chi aveva il potere economico di acquistare un’auto? Ancora uomini. Di conseguenza, l’utente medio attorno a cui si modellava il prodotto era un maschio, con effetti tangibili: dalle cinture di sicurezza pensate per corpi standard maschili, agli airbag che non consideravano adeguatamente corporature diverse come quelle femminili o delle donne incinte”.
“La storia e la cultura hanno a lungo assunto l’uomo, e in particolare l’uomo bianco ‘medio’, come misura universale dell’essere umano – aggiunge Izabela Diana Ihnatiuc, Communication & Dissemination Consultant in Deep Blue – non a caso, nel pensiero femminista si è parlato delle donne come di ‘soggetti imprevisti’, una categoria che in realtà riguarda tutte le soggettività che divergono da quel modello dominante”.
Il gender bias nei trial clinici e nei team di ricerca
Il modello culturale di riferimento “maschile” si è talmente radicato nella società da continuare a influenzare più o meno implicitamente il design di prodotti e tecnologie. In molteplici modi. Nella scelta dei campioni di ricerca, per esempio. Quello medico-sanitario è uno degli ambiti in cui il bias di genere è più evidente.
Negli Stati Uniti, l’inclusione delle donne nei trial clinici per testare efficacia e sicurezza di farmaci e trattamenti è storia recente: è stata prevista per legge solo nel 1993. Nonostante ciò, ancora oggi negli USA le donne (principalmente bianche, però) rappresentano il 40% dei partecipanti in trial che riguardano tumori, malattie cardiache e disturbi psichiatrici, condizioni che peraltro colpiscono più la popolazione femminile. Campioni non inclusivi significa pure cure meno efficaci e più rischiose: essendo i dosaggi dei farmaci tradizionalmente calibrati su uomini, le donne rischiano iper-medicazione e quindi più e più severi effetti collaterali. “Il bias riguarda anche le diagnosi – aggiunge Ihnatiuc – alcune patologie come quelle cardiache hanno una fisiologia e manifestazioni cliniche diverse in donne e uomini, costruire una ‘casistica’ solo su soggetti maschili porta inevitabilmente a sbagliare o ritardare le diagnosi e quindi le cure, con esiti potenzialmente drammatici”.
La scarsa diversità nei team di ricerca e sviluppo è un altro dei fattori che contribuiscono al gender bias e in generale all’assenza di un approccio che consideri l’intersezionalità – le diverse dimensioni dell’identità, non solo sesso e genere ma anche etnia, classe sociale, abilità o disabilità, ecc. – come presupposto guida dell’innovazione. Anche per la mancanza oggettiva di formazione su questi temi.
Un approccio gender-sensitive nella ricerca
Il termine Gender Innovation fu coniato per la prima volta nel 2005 da Londa Schiebinger, storica della scienza alla Stanford University. Il concetto è semplice: utilizzare metodi di analisi basati su sesso, genere e intersezionalità per superare i bias del passato e, soprattutto, per creare nuova conoscenza e favorire innovazione e scoperta.
L’Europa è arrivata dopo ma è entrata in modo deciso rendendo la questione della rappresentanza di genere una priorità strategica e trasformandola in una vera e propria direttrice politica nel settore dei finanziamenti e della ricerca. Nel 2022 è arrivato l’obbligo da parte delle istituzioni pubbliche di dotarsi di un Gender Equality Plan per accedere ai finanziamenti del programma Horizon Europe (del GEP di Deep Blue abbiamo parlato qui). “Il GEP è diventato un requisito essenziale per gli enti che vogliono ricevere fondi dalla Commissione europea – spiega Marzella – parliamo di una serie di impegni e azioni per assicurare l’eguaglianza di genere nei processi di selezione del personale, nella rappresentanza, nelle opportunità di carriera, nel bilanciamento vita-lavoro. Ma anche per integrare l’approccio di genere nella ricerca. In questo senso, con il GEP l’analisi gender-sensitive e l’intersezionalità entrano a far parte in maniera puntuale, sistematica, dell’approccio alla ricerca richiesta dai bandi europei”.
I Fattori Umani per superare il gender-gap
In questa direzione si muove l’impegno di Deep Blue per una ricerca inclusiva. “Non potrebbe essere altrimenti, visto che il nostro core business sono i Fattori Umani: che si tratti di un oggetto, una tecnologia o una procedura, mettiamo sempre al centro del processo di progettazione e sviluppo la persona, con i suoi bisogni e le sue specificità”, prosegue la sociologa. “Proprio per questo sappiamo che un individuo non è definito da un’unica caratteristica, ma può essere descritto da molteplici identità e dimensioni: non solo il sesso biologico, con tutte le sue specificità corporee e fisiologiche, ma anche elementi culturali, sociali, economici e organizzativi – aggiunge Ihnatiuc – quello dei Fattori Umani è un approccio che segue la logica intersezionale, riconoscendo che l’esperienza umana è il risultato dell’intreccio di diversi fattori e contesti”.
Entrando nel merito delle azioni di Deep Blue, Marzella spiega: “Stiamo iniziando, nelle proposte di ricerca europea, a integrare l’approccio gender-sensitive e intersezionale all’interno dell’intero processo progettuale. Questo significa inserirlo in tutti i pacchetti di lavoro, quindi in ogni fase della ricerca, come parte della metodologia. Anche nei progetti più tecnici e vicini alle cosiddette ‘scienze dure’ il nostro approccio proveniente dalle scienze umane permette di garantire un minimo di intersezionalità e la capacità di approfondire dimensioni come il genere e i suoi derivati. Lo facciamo non solo perché è un requisito richiesto dall’Europa, ma soprattutto perché ci rendiamo conto che è fondamentale per produrre un’innovazione realmente efficace e inclusiva”.
In concreto, introdurre l’analisi di genere e intersezionale nei progetti di ricerca significa innanzitutto garantire una rappresentanza equilibrata – come minimo tra donne e uomini – nei gruppi di stakeholder che partecipano allo sviluppo di un prodotto. Quindi individuare e assicurare sin dalla fase di design che siano soddisfatti tutti quei requisiti che deve avere per essere accessibile e utilizzabile da tutte e tutti. “Solo così l’innovazione può essere davvero sostenibile”, sottolinea Ihnatiuc. E qui torniamo all’inizio del nostro articolo: un’innovazione non inclusiva non solo non funziona, ma è anche pericolosa perché può causare o rafforzare disuguaglianze, danneggiando le categorie storicamente più vulnerabili. E nell’era dell’IA la questione è ancora più urgente.
Il problema dei dati nell’IA
Dagli strumenti di traduzione automatica a quelli che convertono il parlato in testo, sono tanti gli algoritmi che “discriminano”. Tutti ricordiamo le traduzioni “sessiste” che consideravano alcune professioni prettamente maschili. Uno studio di ricercatori delle Università di Stanford e Georgetown, invece, ha esaminato alcuni degli speech-to-text tool più diffusi, scoprendo che nell’interpretare – e quindi nel trascrivere – il parlato di donne e uomini neri sbagliavano di più rispetto al parlato di donne e uomini bianchi: un tasso di errori medio del 35% contro il 19%. Non è una questione secondaria considerando che questi strumenti sono fondamentali per le persone con disabilità visive o motorie. Sbagliano anche gli algoritmi che fanno riconoscimento facciale. Secondo una ricerca di qualche anno fa, alcuni dei principali sistemi commerciali di analisi facciale mostrano bias sia rispetto al tipo di pelle sia rispetto al genere: per gli uomini con pelle chiara, il margine di errore nella determinazione del genere non supera mai lo 0,8%; per le donne con pelle più scura, invece, i tassi di errore sono del 20% e del 34% a seconda del sistema. Non è che riconoscere un volto di donna con pelle scura sia particolarmente difficile, il problema è nei dati usati per addestrare l’algoritmo: il 77% volti di uomini, l’83% volti di donne e uomini bianchi.
“La qualità e la rappresentatività dei set di dati con cui si addestrano gli algoritmi sono elementi centrali per colmare il gender gap – conclude Marzella – abbiamo le prove, ora bisogna correggere il tiro. Altrimenti, il rischio è che una delle innovazioni più potenti di questo secolo, sulla carta pensata per migliorare la vita quotidiana di tutte e tutti, diventi paradossalmente un motore di ulteriore disuguaglianza sociale”. Insomma, l’innovazione non è neutra: diventa equa solo se scegliamo di costruirla tale.
