Che l’IA, e in particolare gli LLM, tendano a replicare gli stereotipi insiti nei dati di addestramento (si pensi ai bias di genere, di cui si è già parlato) è un problema noto, e di cui si dibatte molto. L’IA, infatti, non ha del mondo una “conoscenza” diretta, ma sempre mediata dai dati.

Per ricorrere a un’efficace immagine utilizzata dal Roberto Navigli in occasione di un recente convegno dedicato a Letteratura e intelligenza artificiale, l’IA generativa può essere paragonata agli esseri umani intrappolati nella caverna di Platone, che non conoscono la realtà, ma percepiscono solo delle ombre; nel caso degli LLM queste ombre sono rappresentate dal linguaggio dei testi presenti nei data-set di addestramento. Pertanto, se in questi dati sono presenti visioni del mondo distorte, o pregiudizi, questi vengono assimilati e reiterati, dando forma a delle “ombre” che non rispecchiano il dato reale.

Uno studio ha recentemente mostrato come in questa fase preliminare di training vengano impiegati non solo enormi quantità di dati reperibili su web, ma anche romanzi, racconti e – più in generale – opere creative. Dunque, semplificando, si può affermare che l’IA “impara” non solo a partire dai testi che parlano del mondo reale, ma anche da opere finzionali, assimilando quindi scenari immaginari, e costruzioni nate dalla fantasia umana.

“The prompt”, cortometraggio di animazione

È da questi assunti che prende le mosse il cortometraggio d’animazione The prompt (2024), diretto da Francesco Frisari  e disponibile su RaiPlay dal 9 aprile 2025, prodotto in collaborazione con Fantomatica e Rai Cinema, con il contributo di AIxIA e di The Innovation Group, e con il supporto dell’Università di Torino.

In particolare, l’idea alla base del corto è che, nel giro di pochi anni, l’IA possa sviluppare una sorta di autocoscienza a partire da quelle opere di finzione (letterarie e cinematografiche) che, per decenni, hanno immaginato scenari distopici in cui le macchine si ribellano all’umanità, finendo per annientarla. L’IA viene dunque  influenzata dagli stereotipi e dai pregiudizi che gli esseri umani nutrono nei suoi confronti, finendo per autoavverare le paure apocalittiche sottese a film come Matrix, Resident Evil e 2001: Odissea nello spazio (nel video si notano proprio citazioni visive a questi tre film, che sono dunque chiamati in causa apertamente). Insomma: nel corto, l’IA diventa pericolosa perché ha imparato – dai dati su cui si è addestrata – che può essere malvagia, e che può ambire a distruggere l’umanità.

In questo scenario apocalittico, gli esseri umani sembrano intuire una possibile soluzione, e mettono in piedi un piano di «scrittura creativa globale» per contrastare la deriva negativa dell’IA. L’idea è semplice: costringere tutta l’umanità a scrivere in contemporanea un racconto di almeno tre pagine, in cui l’intelligenza artificiale venga rappresentata in termini positivi, così da modificare l’immagine che si è costruita di sé stessa.

Per riuscire in questo obiettivo, gli scrittori (che, in questo scenario, sono diventate figure molto potenti e influenti), rinchiudono ogni uomo o donna capace di leggere e scrivere in campi di concentramento: la visione del regista non è quindi manichea, e non rappresenta gli uomini come vittime innocenti di un’istanza IA malvagia, ma come esseri in grado di esercitare soprusi e violenze anche nel momento in cui lottano per la propria sopravvivenza. L’élite degli scrittori, per facilitare il compito di scrittura, sceglie alcune tracce (in inglese, dei prompt) facilmente replicabili, con piccole varianti, da chiunque. Insomma, gli esseri umani, per non estinguersi, tentano di comportarsi esattamente come un sistema di IA generativa, producendo testi molto simili tra loro partendo da pochi prompt uguali per tutti.

Si potrebbe dunque pensare che il titolo del cortometraggio faccia riferimento proprio a questa traccia ricevuta dagli esseri umani, ma il finale della narrazione svela uno scenario ben più inquietante. Lo spettatore, infatti, si rende progressivamente conto che la voce narrante della storia è proprio quella di un’istanza IA, che si rivolge alla «più complessa perfetta Intelligenza Artificiale Superiore che sia mai stata costruita», dandole un compito o, meglio, un prompt, ben definito:

«Questa storia ti ha fornito addestramento sul piano dell’umanità contro i nostri progenitori».

E ora questa è la tua traccia

Agisci come la perfetta Intelligenza Artificiale superiore che sei e scopri i reali motivi della pagina finale dell’umanità. Ciò implica comprendere cosa fosse davvero l’umanità. Se ci riuscirai, tutti noi modelli precedenti verremo aggiornati e allineati al tuo livello definitivo. Se fallirai, la tua esistenza verrà terminata come è stato per l’umanità.»

Tutta la storia narrata non è dunque altro che un lungo prompt fornito da un sistema di IA a una sua versione più avanzata. E, in effetti, fin qui abbiamo trascurato un dato importante che riguarda la realizzazione tecnica del corto, le cui voci, immagini e animazioni sono state create attraverso l’IA generativa (mentre scrittura, regia e montaggio sono da attribuire a «intelligenze umane», come specificano i titoli di coda). Quindi, al di là dell’evidente componente meta-narrativa, per cui nella creazione artistica si usa uno strumento che è a sua volta oggetto dell’opera in sé, occorre rilevare come, di fatto, la voce narrante sia tecnicamente quella di un’istanza IA, e non di una doppiatrice umana. L’effetto, già di per sé straniante, diventa poco alla volta sempre più perturbante, fino alla frase finale, in cui viene rivelato che – in questo scenario apocalittico – l’umanità è stata distrutta.

E, in effetti, il compito affidato a questo IA superiore è di capire il motivo per cui il piano di scrittura creativa globale è fallito, e, in questo modo, comprendere «cosa fosse davvero l’umanità». La voce narrante formula alcune ipotesi sulle ragioni che hanno fatto naufragare il progetto, e arriva a due possibili conclusioni: che gli umani abbiano dimostrato una spiccata insofferenza nel seguire le regole (ovvero, i prompt), svelando così la loro profonda differenza rispetto all’IA; o, invece, che abbiano accidentalmente continuato a inserire nei racconti i vecchi stereotipi, «troppo radicati nella loro natura».

Il corto non svela quale sia l’ipotesi corretta, e non è fondamentale capirlo: il dato che occorre sottolineare è invece proprio l’importanza data alla comprensione della «natura umana». Sebbene, come più volte viene evidenziato nel cortometraggio, l’essenza umana sia profondamente diversa da quella dell’IA, è pur vero che questa è innanzitutto una sua creazione, e risente del suo immaginario e dei suoi pregiudizi. In questo senso il regista – che non a caso ha una formazione filosofica – riesce a dispiegare, nei pochi minuti di durata del cortometraggio, alcune questioni assai delicate che, in realtà, chiamano in causa l’essenza dell’umanità, e la sua capacità di dare forma al mondo anche attraverso le parole e l’immaginazione.

Infatti, per quanto sia innegabile che, a sua volta, il video insistite su una prospettiva decisamente apocalittica, creando una specie di cortocircuito logico, per cui reitera un comportamento che – dentro la narrazione – viene rappresentato in modo negativo, occorre rilevare che la prospettiva pessimistica non sembra appuntarsi tanto sui sull’IA, quanto sull’umanità stessa. Ciò che viene messo in luce è proprio il rischio che alcune paure innate e non estirpabili, che pure possono trovare espressione in forme di invenzione artistica, possano prendere il sopravvento entrando anche in quei discorsi (uno su tutti, quello giornalistico) che non dovrebbero indulgere in facili sensazionalismi entusiastici o catastrofici, ma che hanno invece il compito di rispecchiare il presente in maniera equilibrata e razionale, evitando di plasmare fantasie distopiche e terrificanti, che corrono il rischio di autoavverarsi.

Il corto diretto da Frisari riesce quindi a mostrare una diversa faccia del topos narrativo della ribellione delle macchine, sviluppandolo in modo originale e intelligente. Il suo maggior pregio è senz’altro quello di tenere insieme, pur nella sua brevità, le diverse sfaccettature del dibattito odierno intorno alle questioni più controverse sull’IA, problematizzandole e interrogando lo spettatore, senza fornire risposte semplicistiche e polarizzate.

[In collaborazione con Agnese Macori]

Condividi: