In un futuro non troppo lontano, gli algoritmi assumeranno un ruolo sempre più di primo piano nei nostri moderni sistemi di governo. La feroce digitalizzazione della realtà fisica e la crescente disponibilità dei dati dei comuni cittadini consentiranno infatti di gestire virtualmente un ampio numero di processi.  Il nostro svolgere sempre più attività online produce infatti ogni giorno una mole impressionante di dati, destinata a crescere, che viene utilizzata per la creazione di algoritmi sempre più sofisticati in grado di assumere funzioni complesse, dando vita ad una vera e propria intelligenza artificiale. Ma quali sono, e quali saranno le conseguenze di questi sviluppi sul funzionamento della nostra democrazia?

Assistendo ad un episodio della nota serie tv Black Mirror, ci troviamo di fronte ad una situazione distopica: ogni individuo viene costantemente valutato dagli altri per il proprio comportamento sociale, tramite una onnipresente interfaccia digitale. Queste valutazioni hanno un significativo impatto sulla propria vita: influiscono sul lavoro che si può svolgere, sulla casa che si può comprare o sui luoghi che si possono frequentare.

Questo scenario dispotico non è molto lontano dalla strada sulla quale sembra indirizzato il sistema di credito sociale cinese lanciato nel 2014, del quale è prevista la piena implementazione proprio in questo anno. il sistema prevede un algoritmo basato su quattro aree di valutazione per ogni individuo: onestà negli affari governativi, integrità commerciale, integrità sociale e credibilità giudiziaria. Grazie ad un complesso sistema di informazione di raccolta dei dati in possesso del governo, ma anche agli acquisti fatti da soggetti privati, ogni individuo riceve una valutazione rappresentata da un algoritmo in cui si possono acquisire punti in base al proprio comportamento o a quello dei propri familiari.  Punteggi alti danno diritto a diversi tipi di vantaggi, mentre punteggi bassi conducono a svantaggi o punizioni, come l’impossibilità di accedere a determinati alberghi, di prendere treni ad alta velocità o il rallentamento della propria connessione internet. Ogni punteggio viene inoltre reso pubblico, in modo che alle ricompense e alle penalizzazioni si aggiungano anche il plauso e il biasimo sociale. Ci troviamo di fronte ad uno dei più avanzati sistemi di sorveglianza e di intelligenza artificiale ai fini del consolidamento di un determinato ordine sociale e politico.

Ma è lecito utilizzare i dati privati dei cittadini per favorire l’ordine pubblico?

Gli algoritmi e i big data hanno la strabiliante capacità di fornirci informazioni estremamente precise su determinate realtà e contesti: questo risulta fondamentale al fine di stabilire delle politiche d’azione efficaci. Un algoritmo, infatti, è una sorta di lista di istruzioni utili a compiere una funzione, ovvero una procedura di calcolo finalizzata a risolvere un problema. Se conoscere, comprendere meglio e prevedere certi fenomeni offre potenzialmente ai decisori la possibilità di prendere scelte democraticamente migliori, allora è indubitabile che la digitalizzazione dei nostri dati e il loro sfruttamento costituisca tutto sommato una conquista. Questo principio sarebbe infatti applicabile al campo delle politiche economiche, sociali, ambientali, sanitarie, al mondo dell’istruzione, della difesa, della diplomazia. L’uso di big data e dell’Intelligenza artificiale potrebbe quindi consentire ai decisori pubblici di anticipare e conoscere desideri e bisogni della popolazione basandosi su dati reali, di tracciare previsioni e valutazione dei rischi, di monitorare al fine di una migliore valutazione gli effetti delle politiche pubbliche. È dunque possibile riscontrare un grande salto di qualità sui modi in cui si prendono e si attuano le decisioni pubbliche nei regimi democratici al giorno d’oggi.

Tuttavia, ritengo che sul piano etico l’intelligenza artificiale e gli algoritmi pongano diversi problemi.

In primo luogo, in termini di privacy degli individui: quest’ultima infatti dipende fortemente dai possibili usi dei dati dei singoli. Anche a livello della libertà di espressione, questa potrebbe essere potenzialmente soggetta a limitazioni da parte di piattaforme, e fortemente minata in contesti politico sociali plasmati dalla cultura della sorveglianza.

Sul piano politico, preoccupazioni crescenti e importanti dibattiti riguardano la cyber sicurezza dei sistemi, la possibile concentrazione di potere nelle mani dei grandi privati e il funzionamento delle arene dell’informazione del dibattito politico, in particolare in relazione al ruolo dei media come luogo di diffusione di notizie e opinioni. Le campagne di disinformazione avviate da organizzazioni e partiti politici, condotte attraverso un ampio uso di intelligenze artificiali, oltre al possibile deterioramento delle libertà civili e politiche nei paesi democratici,  ci condurrebbero così verso una sorta  totalitarismo post- moderno, con un aggravamento della repressione in paesi non democratici a causa delle possibilità inedite di sorveglianza estese sulle coscienze dei cittadini grazie all’intelligenza artificiale.

Condividi: