Negli ultimi anni, il dibattito sul concetto di genere ha guadagnato sempre più rilevanza e attenzione a livello globale. I concetti riguardanti l‘identità di genere e le questioni legate all’uguaglianza sono diventati argomenti chiave per iniziare a comprendere il mondo sotto una prospettiva diversa. In questo contesto, il ruolo delle tecnologie e dell’intelligenza artificiale come ChatGPT, di cui abbiamo parlato anche qui su Tramemotive, è diventato fondamentale. Ma cosa ne pensa l’AI del genere? 

Definizione dell’AI del genere

Ho provato a chiedere a ChatGPT che cosa ne pensa del genere  – sempre che l’intelligenza artificiale possa effettivamente pensare. Inizialmente la sua risposta è stata più una definizione che un pensiero effettivo: 

“Il concetto di “genere” può avere molteplici sfaccettature e significati a seconda del contesto in cui viene utilizzato. Può riferirsi alla categorizzazione sociale, culturale o psicologica delle persone in base alle loro caratteristiche, interessi, ruoli o identità. Inoltre, il genere può essere considerato in relazione alla teoria di genere, che esamina come le società definiscono e interpretano le differenze tra uomini e donne, e come queste definizioni influenzano le esperienze individuali e collettive.”

Aggiunge anche:

“È importante riconoscere che le opinioni sul genere possono variare ampiamente da persona a persona, e molte questioni legate al genere sono oggetto di dibattito in tutto il mondo. La comprensione e l’accettazione dei diversi punti di vista sul genere sono essenziali per promuovere l’uguaglianza, il rispetto e la diversità.”

Dunque per ChatGPT, il genere è un concetto complesso, che riguarda non solo l’aspetto culturale, ma anche quello sociale e psicologico. Il modello riconosce l’esistenza di una vasta gamma di identità di genere che possono differire dalla classica concezione binaria di uomo-donna. Questa visione è il risultato di addestramenti su una vasta varietà di testi, discussioni e fonti informative che hanno ampliato la comprensione di ChatGPT rispetto a questo argomento. Fino a qui dunque tutto bene, ma quindi dove sta il problema?

ChatGPT e i pregiudizi

ChatGPT è stato progettato per rispettare l’identità di genere di tutte le persone che ne usufruiscono e per utilizzare il più possibile un linguaggio inclusivo. Quando si tratta di interazioni con gli utenti, il modello fa del suo meglio per utilizzare pronomi e termini appropriati, evitando di fare supposizioni sbagliate. Tuttavia, è importante notare che il modello può occasionalmente commettere errori. É la stessa AI ad ammetterlo:

“Ci sono preoccupazioni legate alla possibile presenza di bias nei dati e negli algoritmi utilizzati nell’IA, che potrebbero portare a risultati o raccomandazioni che riflettono inavvertitamente pregiudizi culturali o sociali. Ad esempio, se i dati utilizzati per addestrare un modello di intelligenza artificiale sono parziali o riflettono pregiudizi esistenti nella società, il modello potrebbe perpetuare tali pregiudizi.”

L’intelligenza artificiale è pur sempre uno strumento creato dall’essere umano e se parliamo, nel caso specifico di tecnologia, l’AI è stata pensata da uomini e dunque pensa da uomo, per cui è inevitabile che continuerà a vedere e raccontare solo una metà – se non anche meno – di mondo.

L’intelligenza artificiale è sessista?

Non è del tutto corretto definirla in questo modo, anche perché di per sé non ha opinioni, convinzioni o emozioni. Nonostante questa premessa, l’intelligenza artificiale può riflettere bias di genere dai dati di addestramento, che vanno sottoposti ad un’attenta revisione. Secondo il chatbot di OpenAI:

“L’intelligenza artificiale non è intrinsecamente sessista, ma può ereditare bias di genere dai dati di addestramento. È compito dei ricercatori, degli sviluppatori e degli utenti lavorare insieme per identificare, comprendere e affrontare questi bias al fine di garantire l’equità e l’inclusione nei sistemi di intelligenza artificiale.”

Presenza femminile nell’AI

Alla base di tutto, ritorna lo stesso problema: nello sviluppo delle nuove tecnologie, manca la presenza delle donne. Soprattutto per un miglioramento del processo di sviluppo e perfezionamento di sistemi basati sull’intelligenza artificiale, la presenza femminile ha un ruolo rilevante. Sempre ChatGPT ci offre le seguenti soluzioni:

• Riduzione dei bias: una squadra più diversificata può contribuire a identificare e mitigare meglio i bias di genere e altri pregiudizi presenti nei dati o negli algoritmi. Ciò aiuta a garantire che i sistemi siano più equi e inclusivi.
• Prospettive più ampie: le persone con background e esperienze diverse possono portare prospettive uniche alla progettazione e allo sviluppo dei sistemi, consentendo una comprensione più completa delle esigenze degli utenti e delle sfide potenziali.
• Accuratezza e rappresentazione: una maggiore diversità nel team di sviluppo può contribuire a migliorare l’accuratezza nella rappresentazione di esperienze e punti di vista femminili nei sistemi di intelligenza artificiale.
• Accettazione sociale: gli utenti tendono a fidarsi di sistemi che riflettono meglio la diversità del mondo reale, il che può aumentare l’accettazione e l’adozione di tali tecnologie.

Il contributo di Donne 4.0

Per la stesura di quest’articolo, mi sono imbattuta nell’intervista scritta da Maria Lombardi per il quotidiano Il Messaggero a Darya Majidi, imprenditrice digitale, ceo Daxo Group e presidente di Donne 4.0, l’associazione nata il 22 luglio del 2021 fa per far crescere la presenza femminile nella tecnologia. Majidi si sofferma sui dei punti cardine, affrontati nel Manifesto per il “Women tech empowerment”:

“Il know how dell’intelligenza artificiale è in mano agli uomini, le donne non ci sono. E invece devono essere presenti nella transizione digitale, non solo come utilizzatrici ma come creatrici e implementatrici di questi modelli. Altrimenti l’AI farà da megafono ai pregiudizi che esistono nella società. Tutto le volte che uso ChatGPT mi preoccupo perché ho la consapevolezza che è un sistema creato solo da uomini e i dati su cui si addestra sono pieni di bias.”

Majidi si sofferma soprattutto sulla questione delle donne e il il loro scarso coinvolgimento nelle materie STEM e nell’Informatica:

“In matematica e fisica la percentuale di laureate è già alta, mentre in informatica, almeno in Italia, siamo molto indietro, inchiodate al 15 per cento. Tanto è vero che il Manifesto di Donne 4.0 raccomanda, tra le tante cose, al mondo della formazione di avvicinare le donne alla tecnologia e chiede che sia garantito a tutte, come diritto di cittadinanza universale, l’accesso a internet. Bisogna avere il coraggio di uscire dalla comfort zone, intraprendere studi informatici e diventare imprenditrici digitali e così essere presenti nella progettazione dei sistemi di AI e nella selezione dei dati, non solo nel marketing.”

Se la società è disposta a cambiare la sua struttura e il suo mindset, includendo maggiormente le donne e la diversità dell’identità umana, allora anche ChatGPT cambierà. Come strumento, può fornire informazioni utili e stimolare la riflessione, ma spetta agli utenti impegnarsi in dibattiti significativi e nel lavoro per un’uguaglianza di genere effettiva nella vita reale.