ISSN 2039-1676

logo università Bocconi
logo università degli studi di Milano
con la collaborazione scientifica di

ISSN 2039-1676


11 dicembre 2018 |

"Code is Law". Note a margine del volume di Antoine Garapon e Jean Lassègue, Justice Digitale. Révolution graphique et rupture anthropologique, Puf, Paris, 2018

Recensione

 

1. Justice Digitale. Révolution graphique et rupture anthropologique, di Antoine Garapon[1] e Jean Lassègue è un libro che dà conto di uno sconvolgimento profondo, già in atto, del diritto e della giustizia. I due autori, assumendo come punto di partenza la necessità di integrare più sguardi, e in particolare quello del giurista e quello dell’epistemologo per comprendere le rivoluzioni introdotte dalle tecnologie, mostrano chiaramente come l’informatica, come nuova fase della scrittura, introduce mutazioni a livello antropologico ed in particolare sul diritto, come regolatore essenziale per le relazioni sociali.

Diritto e giustizia stanno vivendo una fase di radicale trasformazione con implicazioni a più livelli. La giustizia è dominata dalla centralità dei big data, nei quali tutte le decisioni rese, comprensive di elementi di fatto, argomentazioni delle parti e relativa valutazione del giudicante, saranno inserite all’interno di database in grado di utilizzare e di elaborare tali dati a fini predittivi.

Non siamo di fronte ad un immaginario distopico di finzione, bensì a mutazioni, già in corso, in particolare negli Stati Uniti, definite come vere e proprie rivoluzioni dai due studiosi. Avvocati o giudici possono rendersi conto di come l’uso dei database abbia modificato radicalmente l’esercizio delle proprie professioni. La delicatezza della questione è confermata anche dall’istituzione, da parte del Consiglio d’Europa, della Commissione per la valutazione dell’efficienza dei sistemi giudiziari competente ad esaminare le condizioni di efficacia e di efficienza, che può promuovere un utilizzo responsabile delle tecnologie nel settore giudiziario.

Il libro affronta il tema, più ampio, della cd. giustizia predittiva e dell’impatto delle tecnologie sul diritto e sulla giustizia, che non vengono risparmiati dalle mutazioni conseguenti all’innovazione tecnologica.

La giustizia digitale è una realtà molto variegata, che affascina e al contempo spaventa, ma che già è penetrata (e non solo, come detto, negli Stati Uniti[2]) nel funzionamento della macchina giurisdizionale.

L’approccio scelto dagli Autori è costruttivo: occorre prendere atto di quanto sta accadendo e dell’apporto che le tecnologie possono fornire al diritto e alla giustizia, senza, tuttavia, perdere di vista quelle componenti che possano eliminare l’intervento della componente umana, sostituendola con una discussione tra tecnici, più rapida certamente, ma priva di componenti essenziali di una valutazione valoriale.

La giustizia predittiva è già tra noi ed è questo il punto di partenza che occorre assumere per dare conto delle informazioni, degli spunti, degli interrogativi e dell’invito alla riflessione comune contenuti in questo testo.

Rovesciamenti, trasformazioni e molteplici rivoluzioni segnano il paesaggio giuridico contemporaneo, inaugurando una relazione inedita tra i cittadini e il potere. Dinanzi a questa dinamica derivante dalla rivoluzione digitale, gli Autori, come detto, scelgono di non porsi in modo oppositivo (pro o contro), prefiggendosi l’obiettivo di contribuire positivamente al dibattito, dando conto della complessità dei processi in atto.

 

2. La rivoluzione del numérique si estrinseca su molteplici piani: simbolico, sociologico e cognitivo.

In primo luogo, attua una rivoluzione simbolica che ridisegna le mediazioni attraverso cui noi produciamo e costruiamo il senso e i significati sociali.

L’informatica e la digitalizzazione del diritto modificano non soltanto i mezzi di diffusione della legge, ma – più profondamente – la sua stessa elaborazione e il rapporto con il mondo. La scrittura numerica si inserisce dunque nella produzione della norma, richiedendo una nuova organizzazione sociale e un nuovo ordine di senso. La giustizia predittiva (o giustizia digitale) va intesa come una fonte alternativa della normatività giuridica, se è vero che il diritto è tutto nel codice secondo la formula - più volte ripresa nel libro – del giurista Lawrence Lessig[3]. Se per Lawrence Lessig il Codice è la legge, nell’era del digitale il codice è il cyberspazio. Il codice (digitale) ha mutato e rivoluzionato il codice (penale, civile). Oggi non si può leggere il digitale: questo pone un problema dal punto di vista della legge che non è iscritta in un testo, in un corpus.

Di qui un secondo postulato. La rivoluzione simbolica è anche una rivoluzione grafica, collegata all’apparizione di una nuova forma di scrittura, che non ha tutte le proprietà del linguaggio, in quanto muta e opaca. Se il diritto è nel codice, è su questa rivoluzione grafica che occorre svolgere una ricerca. La digitalizzazione inaugura, infatti, un nuovo regime di normatività, col rischio dell’eliminazione della parola.

Infine, resta una terza questione fondamentale. Non solo va messa in evidenza la trasformazione del diritto attraverso routines informatiche, algoritmi, ma altresì il fascino proprio delle macchine, per cui si conferisce a queste ultime un potere via via maggiore. Perché tutta questa fiducia nelle tecnologie ben al di là delle prestazioni effettive di queste ultime? Perché la tentazione di delegare alle macchine risulta tanto affascinante?

Viene in rilievo l’aspetto performativo della scrittura meccanica, dando vita ad un nuovo ordine grafico. La scrittura digitale non si limiterà a contenere passivamente le nostre leggi, ma offrirà la possibilità di riorganizzare la coesistenza umana e rivelare la verità. Dal sistema giudiziario ci si attende molto di più di quanto avveniva precedentemente: non solo la facilitazione di certe procedure, ma uno strumento di verità, una trust machine, una rappresentazione di noi stessi.

L’ambizione della legaltech è diventare essa stessa la giustizia, tramite una rivoluzione numerica che rende mondi eterogenei compatibili fra loro, mettendo in comunicazione il diritto e la realtà mutevole del fatto. Il sogno segreto è di un mondo dove i rapporti sociali non saranno più gestiti dalla politica e dal diritto, bensì dalla tecnica, partendo dalla consapevolezza che l’opinione pubblica è più rassicurata da una decisione tecnica, che da una decisione umana, pur se presa nel rispetto di tutte le garanzie.

La giustizia fatta dagli uomini rischia di venire considerata arbitraria, fallace, un dato storico superato. Si è così messo in moto dunque un processo di desimbolizzazione della fragile umanità del diritto e del giudice e una resimbolizzazione in termini scientifici.

 

3. Cosa succede al diritto in una società che delega alle macchine? La rivoluzione grafica trasforma, come ogni fatto sociale, tutti i settori della vita sociale.

A differenza delle precedenti rivoluzioni giuridiche (come ad esempio, l’introduzione del codice civile o, ancora, del costituzionalismo), questa trasformazione non è portata avanti né dai giuristi, né dal legislatore, né da altri soggetti pubblici, ma da attori diversi, quali giovani businessmen, matematici e geeks che dopo la sanità (la nethealth), l’educazione (i mooks), l’urbanistica (le smart cities) e la vita civica (le civic tech), ora vedono nella giustizia un terreno non sfruttato (l’ultimo forse) per l’espansione tecnologica e per applicare i propri modelli e le loro logiche molto distanti dal diritto. Per questo fioriscono legal tech start-up (tecnologie digitali applicate al campo giuridico), ideate da ingegneri e imprenditori secondo una logica orientata al profitto. Ed ecco dunque uno shock culturale: la giustizia predittiva e il legal tech sono sorte dalla penetrazione di una logica capitalistica nella professione forense, che ancora, fino a poco tempo fa, era refrattaria a ridurre il proprio rapporto con i mandanti a una questione di denaro. Da un lato, il fine annunciato dalle start up è rendere non più necessaria la casta degli avvocati; dall’altro, costoro si arroccano sempre più sul loro status e la loro deontologia. Si innesca, in questo modo, uno scontro fra una logica capitalistica ed una logica artigianale della giustizia. L’obiettivo, più generale, è quello di indirizzare avvocati, giudici, clienti, verso uno giustizia più smart, per cui si otterrebbe il massimo risultato con il minor impiego di mezzi ed uso più ampio possibile della tecnologia. Il valore cardine della nuova dimensione diviene l’ottimizzazione.

Oltre a ciò, si promette ai cittadini una giustizia più accessibile, che aumenterebbe il loro potere, permettendo loro di conoscere i propri diritti, senza vedersi privati della loro causa da dei professionisti. Dietro la volontà di restituire potere all’individuo che è sottoposto alla giustizia, permettendogli dunque un accesso diretto, prima gelosamente custodito dall’istituzione e dal diritto, si afferma l’idea che tutto possa essere modellizzato, messo in equazione matematica. Si pensa più in termini di interessi che di diritti[4].

Che si tratti di relazioni tra Stati o tra individui, ciò che viene sollecitato dal sistema non è più la consapevolezza dei propri diritti, ma la difesa dei propri interessi. Si esercita una pressione sugli individui, affinché rinuncino ai propri diritti[5]. Il sistema è costruito dai nuovi attori in modo che l’interessato farà prevalere i propri interessi sui propri diritti, portandolo a calcoli e dunque a scelte razionali, più prevedibili anche per il potere.

Viene dunque introdotta una nuova dimensione normativa basata sul calcolo, neutrale, e non sulla soggettività o il libero convincimento del giudice. La giustizia sarebbe, così, meglio assicurata dagli algoritmi (neutrali), piuttosto che dall’essere umano (soggetto a percezioni e a variabili soggettive ed imprevedibili)[6]. Negli Stati Uniti, ad esempio, per la concessione della libertà su cauzione si è fatto ricorso a valutazioni di rischio ottenute attraverso algoritmi, col risultato che, come da più parti evidenziato, questo aprirebbe la strada a nuovi canali di discriminazione e di incarcerazione di massa[7] per le fasce socialmente più deboli e povere.

 

4. Un’altra modificazione significativa si registra a livello cognitivo: il sapere predittivo, infatti, alla base della rivoluzione digitale, è totalmente estraneo al diritto. O meglio, il concetto di prevedibilità è intrinseco alla norma primaria (fonte normativa), ma, come noto, l’applicazione pratica ha sempre un margine di imprevedibilità. In questo spazio si sono inserite le statistiche; la legaltech compie tuttavia un salto di qualità: non solo formalizza le regole – cieche, ma non meno ideologicamente orientate – di applicazione della norma, ma ambisce a prevedere il trattamento che verrà riservato dalla specifica istituzione in un caso particolare.

I big data vorrebbero dare una consistenza matematica e non giuridica e lo fanno combinando tre tipi di dati (giuridici, caratteristiche essenziali del fatto concreto, ulteriori elementi di contesto rilevanti) e a partire dai precedenti costruiscono decisioni-modello, individuando probabilità[8] e indicando gli argomenti più o meno convincenti (anche per le parti, perché nei big data si inseriscono anche gli argomenti delle parti). Tutti gli elementi, giuridici e fattuali, sono messi sullo stesso piano nel determinare la decisione. Il rischio, ben noto, è quello di una standardizzazione delle decisioni e di annullare del tutto una interpretazione creativa del diritto[9].

La causalità giuridica viene dunque abbandonata (o messa in secondo piano) in favore di una correlazione pratica, in quanto la realtà conta più delle finzioni. Il diritto, pertanto, non è che una delle informazioni che vanno a determinare una sentenza.

Tutto il diritto diventa fatto e tutti i fatti, legittimi o no, diventano normativa.

Si sostituisce dunque lentamente il registro cognitivo al registro normativo. La scienza giuridica in questo nuovo contesto non sparirà, ma diverrà secondaria: la formazione e l’interpretazione del diritto non appartengono ad un tessuto formale autoreferenziale, ma divengono materia da trattare. Le sentenze non costruiscono una giurisprudenza, ma alimentano una banca dati. Non è più l’autorità, dicono gli Autori riprendendo Hobbes, ma la quantità di informazioni che declinano la sua applicazione.

Lo sconvolgimento che si sta realizzando è molto profondo: non si legge più il codice, ma si asseconda una dinamica di analfabetismo e di perdita di controllo, trasferendo sugli informatici la lettura e l’elaborazione dei dati. E coerentemente con tali sconvolgimenti sul piano antropologico, la cultura giuridica cede all’intelligenza artificiale.

Il legaltech rende trasparente un livello di realtà, sino ad oggi inaccessibile: l’inconscio della produzione giuridica si impone con l’autorità della scienza. C’è dunque un nuovo registro teorico, che però non è di tipo giuridico. Almeno finché diritto e scienze probabilistiche e informatica, non avranno trovato un diverso equilibrio. Cosa che sarà possibile, sebbene non certa, se e solo se i giuristi saranno in grado di contribuire in maniera costruttiva rispetto a tali mutazioni.

 

5. Le rivoluzioni politica, sociologica e cognitiva convergono verso un universo più orizzontale, libero, senza una figura terza, una sorta di mondo post-politico desimbolizzato e despazializzato, privo di un potere che governa[10]. La dimensione sacra, propria di ogni istituzione, ne esce indebolita. Queste rivoluzioni escludono dalla dimensione reale il sacro – sia esso repubblicano, religioso o rituale. La rivoluzione simbolica a cui assistiamo, si impone come a-simbolica, come a-umana, secondo gli Autori. Anche se, si potrebbe obiettare, la dimensione sacrale potrebbe, in realtà, non venire del tutto meno ma venire sostituita dall’impero dell’algoritmo e dalla esotericità del sapere sottostante. Si pensi alla logica, da sempre, di Apple: all’utente medio non serve sapere come funzionano le impostazioni di registro, o perché va scritto un certo comando in un certo modo anziché un altro. All’utente medio deve poter bastare che cliccando su alfa, si ottiene beta. Ed è proprio questa stessa logica che ha permesso ad Apple di costruire un mondo chiuso ed esclusivo, proprietario, dove l’utente non controlla nulla e solo si fida del geek e di tutta la catena fino al sommo “sacerdote”. Il quale ultimo altri non è se non colui che possiede l’azienda, il software, i contenuti e ormai anche tutti quelli che ciascuno di noi mette su iCloud.

Secondo gli Autori queste trasformazioni incidono significativamente sulle professioni dell’avvocato e del giudice. Gli algoritmi potrebbero prendere il posto dei giudici, liberando in questo modo il diritto dalle sue imperfezioni, dalle passioni e dai conflitti. Verrebbe così meno la liturgia della parola, il giudicare[11], ma non il decidere. Il digitale non ha bisogno di uno spazio, non ha bisogno di riunire le persone, di farle parlare, i giudici possono anche non incontrarsi e i processi si svolgeranno così più rapidamente. Si realizza così un congelamento del processo di simbolizzazione e del processo politico. Di qui un impatto significativo sul diritto e sulla giustizia.

Questa rottura introdotta dal digitale è senz’altro più incisiva di altre trasformazioni che ha subito la giustizia nei tempi più recenti: dalla giustizia penale internazionale, alla giustizia restaurativa o al diritto globale. Si tratta di una rivoluzione su più piani capace di porre in discussione la componente umana dello ius dicere.

La rivoluzione digitale agisce dunque come fattore che disorganizza lo spazio e il tempo della giustizia, facendo venir meno sia il senso dei tempi della procedura, che dando centralità al presente, cui la giustizia predittiva è strategicamente funzionale. La giustizia predittiva trasforma in profondità l’idea stessa del processo come luogo di catarsi, come teatro. Accelera le procedure, altera l’accertamento della verità con pratiche di messa in correlazione e non, invece, di interpretazione. Anche se apparentemente non viene modificato il quadro spazio-temporale, viene rivoluzionata l’efficacia simbolica del processo, con il risultato di una serie di discontinuità rispetto ai caratteri essenziali del rito classico. Ecco perché dopo la lettura di questo testo risulta urgente come giuristi impegnarsi a trovare risposte (in diritto) a queste modificazioni.

Tuttavia, questo processo (inevitabile) che implicazioni può avere?

Il male non è di per sé ovviamente la tecnologia, che ben può essere un supporto per i pratici e favorire un generale accesso alle informazioni.

Occorre però farne un uso critico, trovando un equilibrio tra la positiva riduzione dell’arbitrio e i pericoli di una drammatica cancellazione delle garanzie di libertà. Caratteristica del diritto è infatti quella di produrre regole sufficientemente precise da orientare i nostri comportamenti, ma al tempo stesso di elaborare e cristallizzare regole generali che lasciano in sede applicativa un margine di apprezzamento. Da una legge universale e generale ad una regola che si applica al caso concreto che perde il suo carattere generale, col risultato che la stessa distinzione tra diritto e fatto perde di rilevanza, sino a scomparire.

L’udienza è un luogo di condivisione dello spazio umano, difficile, complesso dove si confrontano le parti, la vittima e l’autore della violazione per consentire al giudice di operare la scelta giusta. Il digitale porta con sé il rischio di banalizzare quello spazio (dalla mancanza di confronto fisico tra le parti, ammettendo conferenze a distanza, alla possibilità di twittare durante l’udienza). Non c’è più uno spazio condiviso, ma vi è una sovrapposizione di spazi, tra uno spazio della comunicazione e lo spazio della tecnologia, che non è più uno spazio, di quello dei tweet.

 

7. Le trasformazioni coinvolgono i protagonisti della giustizia.

Le sempre maggiori richieste di competenze informatiche in capo all’avvocato rischiano di far passare in secondo piano, pur senza farle scomparire, le sue competenze giuridiche. Ed ancora: il difensore di fronte ad un pronostico statisticamente negativo sarà sempre indotto a cercare una soluzione sul piano transattivo, col pericolo che il processo divenga “un lusso” per i casi vincenti e ceda il campo ad una soluzione “commerciale”. Quale responsabilità deontologica per i gestori di questi dispositivi? La questione è pertanto non solo quando deve essere usato l’algoritmo, ma anche sul come renderlo trasparente. Il dovere di pubblicità nelle modalità di elaborazione dei dati, oltreché contribuire al rispetto del principio (non soltanto penalistico) del giusto processo, andrebbe a escludere (o confermare) l’esistenza di possibili parametri discriminatori[12]. Come instaurare in questo nuovo paesaggio l’eguaglianza, garantendo la trasparenza e il controllo sulle sequenze di formule numeriche?

Oltre ad una trasformazione della professione forense, gli Autori provano chiaramente come tale rivoluzione trasformi radicalmente la funzione del giudice. Su quest’ultimo opera, infatti, nell’era del diritto controfattuale, del “what if law”, una enorme pressione mediatica (specie nei processi di terrorismo, ma non solo): grazie ai big data il giudice conosce in anticipo come i suoi colleghi hanno deciso casi analoghi.

Dunque gli si chiederà di svolgere la sua funzione in coerenza, fornendo un messaggio rassicurante all'opinione pubblica, per narrare la storia in modo univoco, per evitare di turbare i mercati finanziari o disallineare le proprie scelte rispetto a quelle del sistema politico, finendo così di disorientare l'opinione pubblica.

Passano invece, sempre più in secondo piano le sofferenze, le speranze e le ferite dei singoli esseri umani coinvolti. La giustizia predittiva può assumere cioè un valore normativo, portando ad un “effetto pecora” (“effet moutonnier”) nelle scelte.

 

8. Nella terza parte del libro gli Autori tornano al proprio postulato di partenza teorico (e pluridisciplinare) da un lato, e all’approccio politico, dall’altro.

Il valore della rivoluzione digitale va valutato dunque non solo in termini di efficacia, comodità o piacere, ma in termini di libertà, utilità, e umanità.

La giustizia predittiva può realizzare l’idea di un diritto senza Stato, totalmente positivizzato e in mano alla tecnica, dove il diritto coincide con la scienza. Sarà questa ancora una giustizia umana? Essa potrebbe rivelarsi controproducente: la più grande libertà può infatti convertirsi in un controllo sociale che può spaventare. Basti pensare alla biometria, ma anche alla tracciabilità totale delle operazioni finanziarie. La giustizia richiede alla giustizia digitale di rispettare l’umanità della persona. Quest’ultima, al contrario, si afferma come giustizia che rimette in discussione la parte umana della giustizia, mettendo il giudice sotto pressione con la pretesa di offrire la possibilità concreta di una istituzione più efficace, rapida e giusta, perché capace di giudicare senza esseri umani. Grazie all’intelligenza artificiale, la giustizia potrebbe divenire capace di pronunciare un giudizio senza un ausilio cognitivo. Tuttavia, sarebbe ingenuo pensare che la macchina non abbia dei principi: li può incorporare sotto forma di parametri. Se taluni di questi criteri sono contrari ai diritti umani fondamentali, come ad esempio l’origine etnica, è sufficiente eliminarli. Tuttavia, a differenza dell’essere umano, una volta eliminati formalmente saremo certi che questo parametro non verrà considerato in altra forma (pensiamo al luogo in cui risiede la persona, alla sua scolarizzazione, alla sua condizione di lavoro indici rivelatori dello stesso criterio socialmente discriminatorio formalmente abbandonato). In nome di esigenze di una accelerazione delle procedure, di maggiore imparzialità della giustizia, di miglioramento dell’efficienza della governance giudiziaria, di condivisione delle decisioni si sviluppa una diffidenza verso i giudici, come persone legate ad una esperienza valoriale umana e meno controllabile e comunque fallibile. La decisione umana propone varie possibilità, mentre la tecnica propone una certezza e un automatismo e indica il mito della giustizia priva di ogni soggettività.

Profilare e classificare una massa di dati permette di arrivare a nuove regole generali. Un nuovo diritto naturale sta sorgendo.

La giustizia predittiva affascina perché è in grado di realizzare un diritto senza Stato, che coincide con la macchina e la tecnica. Al tempo stesso elimina la parte inaccessibile e misteriosa della decisione, componente necessaria del simbolico nel fare giustizia.

 

9. In realtà al mistero della decisione umana se ne sostituisce un altro ben più arbitrario. La promessa della piena intelligibilità dei mezzi tecnologici è contraddetta dalla complessità della nuova scrittura che nessuno può dominare: esiste una scatola nera del digitale, opaca e misteriosa.

Va segnalato, ad esempio, l’utilizzo, negli Stati Uniti[13] di tecniche informatiche per misurare il rischio di recidiva del condannato ai fini della determinazione dell’entità della pena o di una misura alternativa alla detenzione. Si veda il caso dello stato del New Jersey, che ha sostituito le udienze per la concessione della libertà su cauzione con delle valutazioni di rischio ottenute attraverso algoritmi. Si tratta, certo, di una valutazione che per ora serve come guida e non sostituisce la decisione del giudice. A fronte di un sistema basato sulla cauzione, accusato spesso di essere veicolo di pregiudizi legati all’etnia e alla classe sociale, lo scopo dell’adozione degli algoritmi consiste nel rendere neutrale il calcolo dei rischi, che dovrebbe essere, invece, puramente fondato sulle prove e sui dati. Tale misura sembra porci implicitamente una domanda: bisogna avere più paura del giudice o dell’algoritmo? Non ha forse anche il giudice i suoi pregiudizi? Il giudice comunque rimane esposto alla critica della scelta, senza la pretesa che la sua decisione sia il frutto ineluttabile e oggettivo di un calcolo aritmetico. Non rischia la giustizia predittiva di invertire il ragionamento, per cui invece di procedere alla ricerca dei dati, si procede verso l’obiettivo partendo solo dai dati a disposizione? La domanda che si impone in questa epoca, ancora una volta, è se la giustizia ad alta intensità tecnologica – che non si affidi né a quanto prescritto dalla legge, né all’accertamento del fatto, ma ad un modello matematico – sia ancora una giustizia umana, che ammette libertà di giudizio, incertezza dell'esito, un margine di apprezzamento frutto del libero convincimento del giudice.

Gli algoritmi rischiano di sostituirsi al rituale simbolico, alla parola pronunciata nel processo. Dinanzi a questa mutazione antropologica occorre domandarsi, sottolineano gli Autori, come stare in questo spazio, come usare questi applicativi, ricordandosi la specialità del diritto e della giustizia e la componente umana del fare giustizia.

La giustizia predittiva, vuole (pre)dire il futuro, assegnando al passato e alla relazione con quest’ultimo un ruolo determinante. Ne consegue una intensificazione del presente, poiché il passato e il futuro vengono rappresentati in maniera cifrata, sotto forma di proiezioni e predizioni. Il futuro si basa sul passato, predicendo il futuro. Un individuo rischia di commettere un crimine in base alla sua famiglia, al suo contesto sociale o alla sua storia famigliare, col risultato di profezie che si autoavverano.

La posta in gioco è molto alta: pensare, con gli strumenti della modernità, un mondo che rimanga, con le regole che ne disciplinano l’esistenza e la sopravvivenza, abitabile dall’essere umano[14].

 


[1] Già magistrato minorile, ora segretario generale dell’Institut des Hautes Etudes sur la Justice. Autore di studi importanti, alcuni dei quali tradotti anche in lingua italiana sul rituale giudiziario e sul senso del giudicare. Si veda, ad esempio, Id., Del giudicare. Saggio sul rituale giudiziario, Cortina Raffaello, 1997.  

[2] Per una panoramica sull’applicazione negli Stati Uniti, cfr. Simmons R., Quantifying Criminal Procedure: How to Unlock the Potential of Big Data in Our Criminal Justice System (2016); con riferimento alle drug courts, cfr. Marlowe D.B. et al., Adaptive Programming Improves Outcomes in Drug Court: An Experimental Trial (2012); per la prospettiva europea, cfr. Sicurella R. – Scalia V. Data Mining and Profiling in the Area of Freedom, Security and Justice: State of Play and New Challenges in the Balance between Security and Fundamental Rights Protection (2013). In italiano tra i vari contributi si vedano, Canzio G., Il dubbio e la legge, in questa Rivista, 20 luglio 2018; Castelli C. – Piana D., Giustizia predittiva. La qualità della giustizia in due tempi, in Questione Giustizia, 15 maggio 2018; si veda inoltre l’intervista ad Antoine Garapon a firma di Novi E., sul quotidiano Il Dubbio, 22 novembre 2018, pp. 8 e 9.

[3]Code is law” è il titolo di un celebre articolo del giurista statunitense Lawrence Lessig: Code is Law. On liberty in Cyberspace, Harvard Magazine, 2000. Applicando l’affermazione “Code is law” all’attuale momento del diritto positivo italiano, emerge un paradosso evidente: se la codificazione è il diritto stesso e se il diritto (vivente) è diventato (o sta diventando) la mera estrinsecazione di codici computazionali, si pone il problema delle regole processuali le quali a loro volta, ormai, tendono a divenire regole meramente tecnico-informatiche di “scansione” degli atti processuali nel loro nuovo ambiente. Il riferimento è ovviamente al Processo amministrativo telematico, dove è chiaro che in plurimi momenti, l’adattamento delle regole “tradizionali” alle possibilità offerte dall’informatica soffre il limite strutturale della nuova dimensione digitale: si pensi ad esempio alla questione delle copie e degli originali degli atti.

[4] Si crea un mercato del diritto. Nel libro si sottolinea a più riprese il legame tra la giustizia predittiva e la “rivoluzione” portata avanti da attori economici guidati da obiettivi economici, con la sparizione progressiva della parola e dello spazio simbolico. Va altresì osservato a tale riguardo che questa dinamica potrebbe far sorgere nuove forme di transitional justice, nonché permettere al diritto di concentrarsi sui casi più complessi.

[5] Riflessioni già sviluppate da Garapon con P. Servan-Schreiber nello studio: Deals de justice. Le marché américain de l’obéissance mondialisée, Parigi, PUF, 2013.

[6] Di qui la contrapposizione che si ritrova nel testo tra la giustizia as fairness e la giustizia as fitness (p. 316 ss.).

[7] Evidenziando l’uso degli algoritmi in ambito penale negli Stati Uniti Michelle Alexander, Autrice di The New Jim Crow, osserva che tali sequenze determinano chi deve rimanere in carcere e chi può essere rilasciato. Ergo, dinanzi alla scelta di alcuni Stati di abbandonare la liberazione su cauzione per una gratuita, tramite l’uso di un sistema sempre più spesso accompagnato dall’utilizzo di algoritmi che si basano sulla probabilità, mostra come seppure sia “gratis” ma non sia “libero”.  “La libertà - anche quando è concessa, in fin dei conti- non è mai gratuita”, Michelle Alexander, The Newest Jim Crow, pubblicato in The New York Times, 8 novembre 2018.

[8] Questa “scienza” di cui si tratta, infatti, (che poi è in realtà una tecnica e quindi già di per sé stessa applicazione ideologicamente orientata dello “studio della natura”), non è certo più quella newtoniana, ma quella delle scienze probabilistiche. Tutta la scienza, oggi, tutte le sue verità, altro non sono che verità e oracoli di tipo probabilistico: non dicono il vero, ma il verosimile in quanto (più) probabile. Questo elemento consente anche di rafforzare il tema della differenza tra fairness e fitness.

[9] Si intravede qui la figura del giudice scienziato che fa del ragionamento giudiziale un ragionamento scientifico. Si veda M. Nussbaum, Giustizia Poetica, Milano-Udine, 2012.

[10] Gli Autori insistono molto su tale processo di decentralizzazione.

[11] Cfr. il già citato libro di Garapon, Del giudicare. Saggio sul rituale giudiziario.

[12] Molti Autori ritengono che gli algoritmi siano spesso caratterizzati da bias discriminatori, in particolari bias razzisti. Se questo approccio è interessante, dall’altro va rilevato che i dati sono quelli registrati dalle forze dell’ordine e quindi non si può attribuire un intento discriminatorio all’intelligenza artificiale, che elabora i dati raccolti. Sulla necessità di trasparenza, cfr. John E.E., Feeding the Machine: Policing, CrimeData, & Algorithms (2017); Gable Cino J., Deploying the Secret Police: The Use of Algorithms in the Criminal Justice System (2018); Simonite T., All Experts Want to End 'Black Box' Algorithms in Government, (2017), disponibile a questo link. È pur vero che i dati negli algoritmi raccolgono informazioni già esistenti di sentenze già pronunciate, rafforzando opinioni della maggioranza e pregiudizi.

[13] Cfr. il caso Wisconsin S.C., State v. Loomis, 881, Wis. 2016 Indiana S.C., Malenchick v. State, 928, Ind. 2010. Ivi veniva sollevato anche il tema della trasparenza degli algoritmi. La Corte, pur ritenendo che l’utilizzo da parte del tribunale di algoritmi per la valutazione del rischio di recidiva dell’imputato rispettasse il principio del giusto processo, tenta in qualche modo di avvertire sui pericoli che questi modelli valutativi possono rivestire, cercando di dare un indirizzo sull’utilizzo di questi strumenti (65, 66). Tuttavia la critica della Corte non è stata espressa con sufficiente forza, ha ignorato la limitatezza delle capacità del giudice di soppesare gli strumenti in questione e non ha tenuto in considerazione la pressione sui giudici di utilizzare suddetti strumenti.

[14] Si riprende la conclusione di Garapon, in La semaine, cit., p. 1021.