Tiziana Catarci approfondisce con noi una problematica particolarmente delicata con cui l’era digitale non potrà non misurarsi: le possibili applicazioni dell’intelligenza artificiale in ambito giuridico. Quanto spazio è bene dare, quali usi è utile fare dell’intelligenza non umana in un contesto che riguarda l’etica e le norme della convivenza umana? La presunta obiettività dell’algoritmo mette al riparo da errori giudiziari oppure, per paradosso, può causare cadute ancora più rovinose?

L’algoritmo di COMPAS, la valutazione dei comportamenti

L’esempio di COMPAS, sistema applicato per qualche tempo negli Stati Uniti ma presto ritirato a fronte di risultati a dir poco dubbi, illustra bene quanto l’intelligenza artificiale sia poco utile, o addirittura potenzialmente dannosa, se applicata alla valutazione dei comportamenti umani senza l’orientamento e la vigilanza costanti del giudizio – appunto – umano.

Se da un lato è necessario e urgente normare in modo efficace l’utilizzo degli strumenti digitali e soprattutto dei dati che questi raccolgono – i nostri dati, che diamo quotidianamente in pasto alla rete in cambio di servizi, e quasi mai con piena consapevolezza – ci sono limiti molto stretti alla possibilità di applicare gli strumenti digitali alla valutazione dei comportamenti umani.

Condividi: