Il tema dell’inclusione delle persone LGBTQIA+ resta marginale nella ricerca sull’IA. È proprio per colmare questo vuoto che l’associazione EDGE – LGBTI+ Leaders for Change ha promosso un progetto di ricerca dedicato confluito in un documento: "Intelligenza artificiale e inclusione delle persone LGBTQIA+".
Quando si parla di bias algoritmici e discriminazione, il dibattito pubblico si concentra quasi sempre su etnia o genere. Sono i casi più noti, più studiati, più facili da raccontare: dal riconoscimento facciale meno accurato sulle donne nere ai sistemi di selezione del personale che penalizzano le candidate. Molto più raramente si parla di come gli stessi sistemi trattino le persone LGBTQIA+, eppure i rischi ci sono, e sono specifici.
La ragione di questa scarsa attenzione non sta (solo) nella minore disponibilità di dati su orientamento sessuale e identità di genere. Gli algoritmi, infatti, sono perfettamente in grado di dedurre queste caratteristiche in modo indiretto, incrociando informazioni apparentemente innocue: abitudini di consumo, luoghi frequentati, linguaggio usato, persino i tratti del volto in alcune (controverse) ricerche. Il punto è che il tema dell’inclusione delle persone LGBTQIA+ resta marginale nella ricerca sull’IA: per esempio, una semplice interrogazione del database scientifico Scopus con parole chiave come “intelligenza artificiale”, “genere” e “fairness” restituisce centinaia di risultati, ma solo una minima parte questi riguardano esplicitamente l’orientamento sessuale o l’identità di genere, e pochissimi menzionano termini come “queer” o “LGBT”.
È proprio per colmare questo vuoto che l’associazione EDGE – LGBTI+ Leaders for Change ha promosso un progetto di ricerca dedicato, confluito in un report pubblicato nell’aprile 2026. Il documento, intitolato Intelligenza artificiale e inclusione delle persone LGBTQIA+, nasce da un lavoro pluriennale che ha coinvolto esperti, ricercatori, professionisti del settore tech e organizzazioni della società civile. Il risultato è un report organico, diviso in cinque capitoli, che affronta il tema da più angolazioni: quella tecnica (come funzionano gli algoritmi di machine learning e dove nascono i bias), quella sociale (il rapporto fra minoranze, dati e discriminazioni), quella industriale (come si comportano le aziende che sviluppano o usano l’IA), quella delle scienze umane, e infine quella normativa, con un focus sull’AI Act europeo.
Il pregio principale del report è di non limitarsi alla denuncia, ma di andare a fondo nei meccanismi tecnici che generano discriminazione, per poi provare a immaginare correttivi concreti, dal design partecipativo al coinvolgimento di gruppi vulnerabili nei processi di sviluppo.
Uno degli esempi più citati nel report riguarda BERT, il modello linguistico sviluppato da Google reso celebre da uno studio condotto dai ricercatori dell’Università Bocconi. Chiedendo al modello di completare frasi automaticamente, i ricercatori hanno osservato che le frasi con soggetto maschile venivano completate con riferimenti sessuali o offensivi solo in una piccola percentuale dei casi, quelle con soggetto femminile in una percentuale doppia, ma quando il soggetto era esplicitamente una persona LGBTQIA+ la percentuale di completamenti offensivi saliva sensibilmente, con picchi molto elevati.
Il report racconta anche episodi in cui piattaforme social hanno bloccato, per periodi più o meno lunghi, immagini di baci fra persone dello stesso sesso, mentre analoghe immagini eterosessuali restavano visibili. In alcuni casi si è trattato di errori nei criteri di addestramento dei sistemi automatici di moderazione; in altri casi, come denunciato dagli sviluppatori di alcune app di dating, si è parlato apertamente di doppio standard nella moderazione dei contenuti.
Un fenomeno ancora più sottile è quello dello shadowban: uno studio condotto in Cina ha mostrato come i contenuti pubblicati da uomini gay vengano resi meno visibili attraverso tecniche indirette (sostituzione di parole chiave, limiti alla diffusione dei video, hashtag “silenziati”), senza tuttavia che il contenuto venga formalmente rimosso.
Il report dedica poi ampio spazio ai sistemi di selezione del personale, un ambito già noto per i suoi rischi discriminatori (basti pensare al celebre caso Amazon, il cui algoritmo di recruiting penalizzava le candidate donne perché addestrato su un decennio di assunzioni a prevalenza maschile). Applicando lo stesso ragionamento alla comunità LGBTQIA+, una ricerca OCSE citata nel report rileva che il tasso di assunzione delle persone LGBTI+ è inferiore alla media quando la loro appartenenza alla comunità emerge dal curriculum, ad esempio tramite attività di volontariato in associazioni del settore. Un algoritmo addestrato su questi dati storici rischia di automatizzare e cristallizzare proprio questo tipo di discriminazione.
Un altro tema centrale è quello che il report chiama “datificazione dell’identità sessuale”: ossia la tendenza a tradurre in categorie rigide (spesso binarie) qualcosa che nella realtà è fluido e sfaccettato. Molte app di incontri, ad esempio, costringono gli utenti a scegliere tra categorie chiuse come “eterosessuale”, “omosessuale” o “bisessuale”, senza spazio per sfumature o identità non binarie. Un algoritmo addestrato su questi dati semplificati può finire per ignorare o marginalizzare le identità che non rientrano in quelle caselle, riproponendo discriminazione anche in ambiti apparentemente lontani, come la sanità o il lavoro.
Il report cita anche uno studio molto discusso (e metodologicamente controverso) secondo cui un sistema di riconoscimento facciale sarebbe in grado di predire l’orientamento sessuale delle persone dalle foto del volto con un’accuratezza superiore a quella umana. Al di là dei limiti scientifici di questa ricerca – riconducibile più a stereotipi estetici che a un reale riconoscimento dell’orientamento sessuale – le conseguenze di una simile capacità, se confermata, sarebbero enormi in termini di rischio discriminatorio, specialmente nei paesi con politiche apertamente anti-LGBTQIA+.
Uno dei paradossi più interessanti evidenziati dal report riguarda proprio la tensione fra due esigenze opposte. Da un lato, rendere visibile l’appartenenza LGBTQIA+ nei dati permetterebbe di individuare più facilmente le discriminazioni e correggerle, come già avviene per altre categorie protette (come etnia o genere). Dall’altro lato, proprio quella visibilità espone le persone a rischi ulteriori, specie considerando che orientamento sessuale e identità di genere sono dati particolarmente sensibili, tutelati dalla normativa sulla privacy. Il risultato è che, mentre discriminazioni etniche o di genere sono spesso più facilmente dimostrabili, quelle legate all’orientamento sessuale restano nascoste.
Il report dedica poi un intero capitolo all’AI Act europeo, il regolamento entrato in vigore nel 2024, presentandolo giustamente come un passo avanti importante, in quanto vieta esplicitamente alcune pratiche particolarmente rischiose (come i sistemi di categorizzazione biometrica che deducono l’orientamento sessuale delle persone) e impone obblighi stringenti per i sistemi “ad alto rischio”, tra cui quelli usati nel mondo del lavoro.
Va detto, però, che il documento sembra affidare a questo quadro normativo più forza risolutiva di quanta ne possa realisticamente avere. Lo stesso report, in altri passaggi, riconosce alcuni limiti strutturali dell’AI Act – il rischio che le tutele contro le discriminazioni vengano annacquate di fronte alla mole di adempimenti tecnici richiesti, la difficoltà di tradurre in standard tecnici armonizzati un concetto sfaccettato e culturalmente situato come la discriminazione, il fatto che le autorità italiane individuate per l’applicazione della norma (AGID e ACN) non abbiano storicamente competenze in materia di antidiscriminazione – ma tende poi a trattarli come dettagli da correggere in corsa, più che come ostacoli strutturali. Una regolamentazione basata sul rischio dei prodotti, per quanto sofisticata, fatica per sua natura a intercettare forme di discriminazione indiretta e sommersa come quelle che colpiscono le persone LGBTQIA+, ed è lecito chiedersi se gli strumenti indicati nel report basteranno davvero a colmare questo divario, senza un investimento molto più deciso sulla partecipazione delle comunità interessate ai processi di sviluppo e verifica dei sistemi di IA.
Il report di EDGE ha insomma il merito di portare alla luce un problema reale: l’intelligenza artificiale non è mai neutra, e i suoi bias non colpiscono tutti allo stesso modo. Le persone LGBTQIA+ affrontano rischi specifici – dal linguaggio tossico dei modelli linguistici alla moderazione discriminatoria dei contenuti, dal recruiting automatizzato alla rigidità delle categorie usate per rappresentare l’identità sessuale – che meritano attenzione dedicata, non solo un generico richiamo ai principi di fairness. La normativa europea è un passo importante, ma da sola non basta: serve consapevolezza diffusa, competenze tecniche all’interno delle comunità, e processi partecipativi che coinvolgano davvero chi rischia di essere escluso dagli algoritmi che, sempre di più, decidono per tutti noi.
