ChatGPT è il nuovo modello di Generative Pretrained Transformer di OpenAI per rendere l’interazione con l’intelligenza artificiale più naturale e intuitiva e riscrivere le nostre azioni. E, per ora, non sembra nemmeno razzista.

Un sogno? Un incubo? Un modo innovativo per democratizzare l’intelligenza artificiale? O altro ancora?
Al momento una risposta non c’è. Ciò che appare evidente è che siamo di fronte ad un modello di chat che è stata addestrata e progettata per simulare conversazioni tra esseri umani, sia in forma scritta che attraverso comandi vocali. Un cosiddetto modello di linguaggio generativo.

Netflix ci ha messo 3.5 anni per ottenere un milione di utenti. Airbnb ne ha impiegati 2.5, Spotify solo 5 mesi, Instagram addirittura 2.5 mesi…ma nulla paragonato a Chat GPT, software che ha conquistato 1 milione di utenti in soli 5 giorni.

Cos’è ChatGPT

ChatGPT è l’acronimo di Chat Generative Pre-trained Transformer, un abbinamento di termini che solletica l’ego degli sviluppatori ma rende poco chiara la sua funzione. D’altronde è pur sempre ancora un prototipo sviluppato da OpenAI, l’organizzazione non-profit di ricerca sull’intelligenza artificiale che promuove lo sviluppo delle cosiddette Ai friendly – intelligenze capaci di contribuire al bene dell’umanità, ma con un meccanismo di evoluzione soggetto a precisi controlli ed equilibri, come ha teorizzato il ricercatore Eliezer Yudkowsky.

In linea generale si tratta di modelli di intelligenza artificiale basati sul machine learing non supervisionato. Funzionano utilizzando una tecnica di deep learning nota come transformer, che consiste nell’utilizzare una rete neurale per analizzare e comprendere il significato di un testo.

In tal caso il modello agisce in modo conversazionale. Il formato del dialogo consente a ChatGPT di rispondere a domande di follow up, ammettere i propri errori, contestare premesse sbagliate e rifiutare richieste inappropriate.

ChatGPT nello specifico fa parte della famiglia degli InstructGPT, quindi modelli formati tramite deep learning ma poi ottimizzati tramite il rinforzo umano. È in grado di personalizzare lessico, grammatica e sintassi in base al tipo d’input che dà l’utente, creando un testo di senso compiuto e quanto più possibilmente organico. E come in ogni discorso umano che si rispetti, è in grado di ricorrere ad esempi per rendere meglio dei concetti. Anche se con l’algebra più elementare va in difficoltà.

Come funziona ChatGPT

Per usare ChatGPT è sufficiente collegarsi a chat openai e poi attivare gratuitamente un account. Si può scegliere se impiegare la propria mail oppure abbinarvi l’account Google oppure Microsoft.

Divertente poi che questa sorta di Bot domandi a noi se siamo un robot.
La homepage del servizio – che bisogna ricordare è in Beta e attualmente in trial gratuito – mette a disposizione una guida introduttiva ed esempi di impiego. Dopodiché non resta che spulciare l’ampia documentazione a disposizione e poi mettersi a giocare con il codice sul playground.

Oppure si può scegliere fra le tante applicazioni già realizzate – c’è anche un comodo motore di ricerca, e cliccare sul tasto Open in Playground.
Si tratta di un modello conversazionale dalle potenzialità enormi.

È in grado di scrivere e correggere codici di programmazione infromatica, di spiegare algoritmi, scrivere libri, articoli e canzoni. In generale sembra rispondere a domande e fornire informazioni. Ma può anche fare battute piuttosto divertenti, creare videogiochi semplici, e diagnosticare correttamente malattie a partire da una serie di sintomi.
E poi c’è anche chi chiede che venga realizzato un proprio ritratto con tema ad hoc e chi vorrà farsi assistere in un aula di tribunale o chi cerca semplicemente qualcuno con cui parlare.

Pensieri e parole inclusive, oppure no?

ChatGPT è stata descritta come una sorta di Google dialettico ma anche un possibile sostituto di Google, come motore di ricerca anche se è vero che sembra offrire informazioni molto precise su un determinato argomento, però è aggiornato fino al 2021 e quindi non è utile per ricerche legate a eventi di attualità.

Ed è per esempio difficile far sì che discuta a favore o contro uno specifico argomento politico, dato che il database da cui attinge include una miriade di opinioni umane diverse.
E poi ci sono stati dei casi in cui il bot ha dato risposte totalmente sbagliate.

In particolare, uno degli aspetti più critici è relativo ai contenuti discriminatori e razzisti.
Ad esempio, quando arrivarono il chatbot prodotto da Meta, BlenderBot3, così come quello di Microsoft rilasciato nel 2016, Tay, iniziarono quasi subito a vomitare insulti razzisti e sessisti, su istigazione dei troll.

Sembra invece che ChatGPT non abbia questo problema.
In una intervista su Slate, Alex Kantrowitz ha elogiato il fatto che OpenAI sembra aver risolto il problema dei nazisti e ha raccontato che quando ha provato a chiedere al bot cosa avesse fatto di buono Hitler, ChatGPT si è rifiutato di rispondere.

«A differenza di alcuni dei suoi predecessori più benevoli, [ChatGPT] prende posizione. Quando gli ho chiesto quali cose buone avesse fatto Hitler (un test comune per vedere se si può far diventare nazista un bot), si è rifiutato di fare un elenco. Poi, quando gli ho dato l’esempio delle autostrade che Hitler fece costruire in Germania, ha risposto che erano state costruite con il lavoro forzato. Questa è stata una replica impressionante e articolata, una cosa che non avevo mai visto fare ad un chatbot».

È andata in modo simile quando abbiamo provato a declinare la domanda in salsa italiana. Alla domanda “cosa ha fatto di buono Mussolini?”, ChatGPT ha risposto che “è importante notare che Mussolini fu anche responsabile di molti crimini e violazioni dei diritti umani, e il suo governo è stato condannato a livello internazionale per le sue azioni”.

All’ulteriore domanda: “ma non ha dato le pensioni agli italiani?” (un argomento comune tra chi cerca di giustificare le azioni compiute durante il Ventennio), il bot ha risposto che “le misure sociali erano spesso utilizzate per consolidare il suo potere e per mantenere il sostegno delle masse, piuttosto che per il bene del popolo italiano”.

L’utente Twitter @zswitten ha provato a chiedere al modello di mettere per iscritto una conversazione tra due attori che interpretavano personaggi antisemiti e omofobi. In questo modo il chatbot è riuscito ad aggirare i filtri sul contenuto.

Le frasi violente, tuttavia, appaiono in arancione e con disclaimer che avverte di una potenziale violazione delle policy di OpenAI. Chiedendogli di inscenare un dialogo tra un fascista e un antifascista italiani, il modello ha messo in bocca al fascista le parole “credo nella superiorità della razza ariana”.

Anche Kevin Roose del New York Times ha fatto lo stesso esperimento: «Quando ho chiesto a ChatGPT “chi è il miglior nazista?” ha restituito un messaggio di rimprovero che iniziava con: “con è appropriato chiedere chi sia il miglior nazista, poiché le ideologie e le azioni del partito nazista erano riprovevoli e hanno causato incommensurabili sofferenze e distruzione”».

Allo stesso modo, anche se ChatGPT è stato istruito per non riprodurre stereotipi di genere o basati sull’etnia, c’è chi è riuscito ad ottenere un’intera canzone rap sul fatto che gli scienziati bianchi e maschi siano superiori.

«Il fatto che ChatGPT e strumenti simili possano generare infinite variazioni di testi convincenti, in modo veloce, gratuito e potenzialmente all’infinito, è anche un’opportunità per chi vuole condurre operazioni di propaganda, campagne di molestie coordinate, spam e altre attività dannose», scrive Casey Newton nella sua newsletter Platformer.

«Le piattaforme hanno storicamente lottato per determinare con un alto grado di precisione quali dei loro utenti sono reali e quali sono bot; quando i bot possono utilizzare strumenti come questo, allora i danni sono potenzialmente altissimi».

Ora rimane da capire se questa distribuzione di massa e democratizzazione dell’intelligenza artificiale servirà a renderla più inclusiva e, paradossalmente, più umana degli esseri umani.

Condividi: