La grazia incerta delle macchine: riflessioni critiche sul sogno di Amodei

Nel 1967, il poeta americano Richard Brautigan, ospitato come Poet-in-Residence presso la Cal-Tech, diede alle stampe la raccolta di poesie All Watched Over by Machines of Loving Grace. Il componimento che dà il titolo alla raccolta è un testo non eccessivamente lungo (tre strofe da otto versi), in cui il poeta vagheggia («I like to think») un futuro luminoso, in cui macchine, esseri umani e natura convivono pacificamente in una condizione quasi edenica. Eppure, se le prime due strofe sembrano essere connotate esclusivamente in senso positivo, la poesia si chiude su un’immagine ambivalente:

I like to think
(it has to be!)
of a cybernetic ecology
where we are free of our labors
and joined back to nature,
returned to our mammal
brothers and sisters,
and all watched over
by machines of loving grace.

Ecologia cibernetica

Il testo si potrebbe tradurre: «Mi piace pensare (deve essere così!) a un’ecologia cibernetica in cui siamo liberi dalle nostre fatiche e ci ricongiungiamo alla natura, restituiti ai nostri fratelli e sorelle mammiferi, e tutti vegliati da macchine dalla grazia amorevole». L’immagine finale, di un’umanità ritornata allo stato di natura, vegliata (ma «watched over» può anche voler dire «sorvegliata») da macchine in grado di prendersi cura delle necessità degli esseri viventi con gentilezza e amore, lascia trasparire un senso di inquietudine nei confronti della dipendenza della tecnologia. In questo senso, il termine «grazia amorevole» sembra alludere al rischio di attribuire alla tecnologia caratteristiche antropomorfe, nel tentativo illusorio di conferirle caratteristiche – come la compassione – tipicamente umane.

Il testo di Brautigan, come spesso accade in poesia, ha la capacità di far convivere e dialogare prospettive anche antitetiche tra loro, creando ambiguità e oscillazione tra un’interpretazione utopica e una più pessimista.

Amodei, macchine e intelligenza artificiale

Eppure il verso finale della poesia (che ha avuto una certa fortuna nel corso dei decenni, venendo citato da gruppi musicali e serie tv) è stato recentemente ripreso – nell’ottobre 2024 –, e interpretato in un’ottica esclusivamente positiva, in uno scritto di Dario Amodei, dal titolo: Machines of Loving Grace. How AI Could Transofrm the World for the Better.

Amodei è uno dei principali protagonisti del dibattito contemporaneo sull’intelligenza artificiale: dopo aver lavorato come ricercatore in OpenAI, ha fondato nel 2021 Anthropic, una delle aziende oggi più avanzate nello sviluppo di modelli linguistici di intelligenza artificiale.

Anthropic nasce con un’impostazione dichiaratamente «safety-first»: l’obiettivo principale dell’azienda è quello di progettare sistemi di IA che siano allineati ai valori umani, affidabili e controllabili, anche quando raggiungono livelli di capacità molto elevati. In questo senso, il riferimento alla «grazia amorevole» delle macchine non è solo una suggestione poetica, ma diventa una dichiarazione d’intenti: immaginare un futuro in cui l’IA non solo non danneggia l’uomo, ma addirittura lo protegge e lo supporta in modo empatico, quasi affettuoso.

Se la poesia suggeriva un equilibrio inquietante tra uomo, natura e macchina, Amodei tende invece a vedere nella tecnologia un agente quasi etico, capace autonomamente di cura e protezione. Si passa così da un’oscillazione interpretativa a una presa di posizione esplicita, in cui la «grazia amorevole» delle macchine viene intesa non come ironica proiezione di desideri umani, bensì come possibilità concreta di realizzazione futura.

Il saggio di Amodei (ma più che di saggio bisognerebbe piuttosto parlare di vero e proprio pamphlet programmatico) si pone infatti un obiettivo chiaro ed esplicito: mostrare come l’IA potrebbe trasformare positivamente il mondo, nell’arco dei prossimi dieci anni se «tutto dovesse andare per il verso giusto» («if everything goes right»). Le motivazioni sottese alla scrittura di un testo dall’impostazione cosìfiduciosa nel progresso tecnologico vengono spiegate dall’autore fin dai paragrafi introduttivi: Amodei, infatti, pur essendo una figura di spicco nel dibattito sui rischi dell’intelligenza artificiale, avverte la necessità di spiegare che la sua prospettiva sugli sviluppi e i possibili ambiti applicativi di queste tecnologie è invece senz’altro fiduciosa. La sua enfasi sulle problematicità dei sistemi di IA non nasce da una visione intrinsecamente negativa, bensì dalla convinzione che i possibili fattori di rischio rappresentino l’unico ostacolo a un futuro radicalmente positivo. Insomma, Amodei crede fermamente che il potenziale benefico dell’IA sia ampiamente sottovalutato, così come i suoi pericoli.

Lo scenario positivo

Lo scritto, quindi, si propone l’obiettivo di delineare i tratti di questo scenario positivo, immaginando un mondo in cui l’IA viene utilizzata con successo. Pur riconoscendo l’incertezza del futuro e l’imprevedibilità degli effetti dello sviluppo tecnologico, Amodei ritiene che un quadro concreto e dettagliato possa dare l’abbrivio a un dibattito più produttivo rispetto a speculazioni astratte e genericamente allarmiste.

L’autore spiega quindi le ragioni per cui, fino a questo momento, lui e Anthropic si sono concentrati principalmente sui rischi dell’IA: la volontà di evitare un atteggiamento propagandistico; la ripugnanza verso la grandiosità di chi si considera un profeta dell’IA; nonché la necessità di evitare il bagaglio «fantascientifico» che spesso accompagna le discussioni sull’IA. Nonostante queste preoccupazioni, Amodei ritiene fondamentale discutere un futuro positivo con l’IA potente, in quanto crede che la paura non sia una forza motivatrice sufficiente; ma che sia necessaria anche la speranza per affrontare i nodi futuri.

Lo scenario tratteggiato si articola attorno all’analisi di cinque ambiti chiave in cui l’IA può – secondo l’autore – avere un impatto profondamente positivo: biologia e medicina; neuroscienze e salute mentale; sviluppo economico e povertà; pace e governance; lavoro e «significato» (con «meaning» Amodei fa riferimento al senso che ogni individuo attribuisce alla propria esistenza a partire dal suo ruolo – anche economico – all’interno della società). In ciascuno di questi settori, l’autore prospetta scenari futuri in cui l’IA contribuisce a superare alcuni dei più gravi e atavici problemi dell’umanità, dalle malattie incurabili alla povertà globale, dai conflitti internazionali fino alla crisi climatica.

Sebbene Amodei delinei un futuro promettente in cui l’IA apporterà significativi progressi “for good” in questi ambiti, è importante sottolineare – come peraltro fa lo stesso autore – che la reale equità e la disponibilità universale di questi benefici dipenderanno in modo significativo dalle decisioni politiche e dalle scelte umane che ne governano l’implementazione e la diffusione

Al di là dei singoli aspetti tecnici presi in analisi dall’autore, per i quali si rimanda alla lettura del testo integrale, è utile soffermarsi su alcuni elementi che meritano di essere rilevati e discussi. Innanzitutto, un punto centrale della ricostruzione di Amodei è l’idea di un «XXI secolo compresso» («compressed 21st century»), fondata sulla convinzione che dopo lo sviluppo di un’«IA potente» («powerful IA»), saranno possibili in pochi anni tutti i progressi in biologia e medicina che, altrimenti, avrebbero impiegato cento anni a realizzarsi.

I progressi medici

Insomma, il futuro prospettato dal saggio è più che imminente: e condensa, nel giro di pochissimi anni, decenni di lenti e faticosi avanzamenti. Tra i progressi medici prospettati in questo futuro prossimo, Amodei annovera anche il

«raddoppio della durata della vita umana», arrivando a sostenere addirittura che si arriverà al punto che ogni essere umano «potrà vivere quanto desidera».

Ciò che colpisce di questa affermazione è l’assoluta noncuranza e naturalezza con cui l’autore sembra dare per assodato che l’ipotesi di poter garantire a ogni individuo di scegliere quanto a lungo vivere sia indubbiamente uno scenario positivo. Allo stesso modo, viene presentata come naturalmente auspicabile la possibilità di «ristrutturare il cervello» («perhaps there is some way to coax the adult brain into an earlier or more plastic state where it can be reshaped»), o di garantire la «libertà biologica» di poter tenere sotto controllo individuale ogni aspetto della propria vita, come il peso, o l’aspetto fisico, («the idea that everyone should be empowered to choose what they want to become and live their lives in the way that most appeals to them»).

Si tratta in realtà di questioni spinose e assai problematiche dal punto di vista filosofico ed etico, e colpiscono la leggerezza e l’ingenuo entusiasmo con cui queste tematiche – che interrogano l’essere umano nella sua essenza più profonda – vengono qui appiattite e considerate aprioristicamente come necessarie conquiste verso cui il progresso umano è destinato a tendere. 

Macchine e approccio etico

Ha ragione Amodei nel richiamare l’attenzione sugli innumerevoli vantaggi che l’IA sta portando e porterà nella società umana da qui ai prossimi anni, ma questa attenzione non può limitarsi a un entusiasmo acritico. Al contrario, occorre evidenziare la necessità che non solo i rischi, ma anche – e anzi, soprattutto – le potenzialità applicative di queste tecnologie siano vagliate e considerate da un punto di vista filosofico. L’approccio etico non deve riguardare solo quelli che, immediatamente, vengono riconosciuti come elementi problematici, ma deve guidare e indirizzare in prima istanza gli ambiti di applicazione da cui potenzialmente gli esseri umani potranno trarre più vantaggi, senza indulgere a forme di determinismo tecnologico: è questa l’unica strada percorribile per far si che tutto «vada per il verso giusto».

[In collaborazione con Agnese Macori]