Cina: nasce il «pubblico ministero» informatico, in grado di formulare accuse da solo

Di Frank Dong

Degli scienziati in Cina hanno affermato di aver sviluppato una macchina che si basa sull’intelligenza artificiale (Ai) per emettere accuse penali.

La procura di Shanghai Pudong, la procura più grande del Paese, ha costruito e testato la macchina, che finora è in grado di identificare ed emettere accuse per gli otto crimini più comuni a Shanghai: frode con carta di credito, gestione di un’operazione di gioco d’azzardo, guida spericolata, lesioni intenzionali, ostruzione ai doveri pubblici, furto, frode e litigi.

I ricercatori hanno affermato che, sulla base di una descrizione scritta di un caso, il cosiddetto «pubblico ministero» robot può presentare un’accusa con una precisione del 97%.

Il professor Shi Yong, scienziato capo del progetto, ha affermato che la tecnologia Ai potrebbe ridurre i carichi di lavoro quotidiani dei pubblici ministeri, consentendo loro di concentrarsi su lavori più impegnativi. Shi è anche il direttore del laboratorio dei big data e di gestione della conoscenza presso l’Accademia cinese delle scienze, il principale istituto di ricerca statale del regime.

«Il sistema può sostituire in una certa misura i pubblici ministeri nel processo decisionale», hanno affermato Shi e il suo team in un articolo pubblicato sulla rivista cinese Management Review.

Shi e i suoi colleghi hanno affermato che i pubblici ministeri cinesi hanno iniziato a utilizzare l’intelligenza artificiale nel 2016. Molti di loro ora utilizzano uno strumento di intelligenza artificiale noto come «Sistema 206», che è in grado di valutare la forza delle prove, le condizioni per un arresto e quanto un sospetto sia pericoloso per il pubblico.

Ma tutti gli strumenti di intelligenza artificiale esistenti hanno svolto solo un ruolo limitato, dal momento che «non partecipano al processo decisionale di presentazione di accuse e sentenze», afferma il documento.

Per prendere tali decisioni è necessario che una macchina identifichi e rimuova qualsiasi contenuto irrilevante di un fascicolo e conservi le informazioni utili, ha aggiunto.

Secondo il documento, la macchina ha anche bisogno di trasformare il linguaggio umano complesso e in continua evoluzione in un formato matematico o geometrico standard che un computer possa comprendere.

Le società informatiche cinesi hanno sviluppato potenti strumenti per l’elaborazione del linguaggio naturale, ma il loro funzionamento spesso richiede computer di grandi dimensioni a cui i pubblici ministeri non hanno accesso.

Il «procuratore» informatico sviluppato dal team di Shi potrebbe operare su un desktop. Per ogni sospetto, sporgerebbe un’accusa basata su 1.000 «tratti» ottenuti dal testo della descrizione del caso generato dall’uomo. Il sistema 206 valuterebbe quindi le prove.

Shi ha affermato di aver utilizzato più di 17.000 casi dal 2015 al 2020 per addestrare la macchina.

Il documento prevedeva che il pubblico ministero artificiale sarebbe presto diventato più competente con gli aggiornamenti: sarà in grado di riconoscere reati meno comuni e presentare più accuse contro un sospettato.

Ma la nuova macchina ha sollevato interrogativi tra i pubblici ministeri cinesi. Un procuratore di Guangzhou ha affermato di avere alcune preoccupazioni sull’uso di un procuratore di intelligenza artificiale nel deposito delle accuse.
La precisione del 97 percento può essere elevata dal punto di vista della tecnologia, ma ci sarà sempre la possibilità di un errore, ha affermato: «Chi si prenderà la responsabilità quando accadrà? Il pubblico ministero, la macchina o il progettista dell’algoritmo?».

L’applicazione diretta dell’Ia nel processo decisionale potrebbe anche incidere sull’autonomia di un pubblico ministero umano. La maggior parte dei pubblici ministeri non vuole che gli informatici interferiscano con un giudizio legale. Inoltre, un’altra questione è che il pubblico ministero di Ai potrebbe presentare un’accusa solo sulla base della sua precedente esperienza, ma non potrebbe prevedere la reazione del pubblico a un caso in un ambiente sociale mutevole: «L’intelligenza artificiale può aiutare a rilevare un errore, ma non può sostituire gli esseri umani nel prendere una decisione», ha affermato il pubblico ministero.

I media cinesi hanno celebrato il procuratore informatico come il primo successo mondiale in questo campo.

A differenza delle democrazie occidentali, la Cina non ha un sistema legale indipendente, poiché i tribunali sono controllati dal Partito Comunista Cinese. Coloro che parlano o agiscono in un modo ritenuto inaccettabile per il Partito, come dissidenti, credenti religiosi, avvocati per i diritti e blogger, sono spesso accusati di reati vagamente definiti come «generare liti e provocare problemi» o «sovversione del potere dello Stato» e vengono invariabilmente condannati, con un 99,9 per cento di tasso di condanna.

Ad esempio, la cittadina-giornalista Zhang Zhan è attualmente a metà di una condanna a quattro anni di carcere per aver riferito sulle prime fasi dell’epidemia di Covid-19 a Wuhan nel febbraio 2020. La sua condanna ha suscitato una diffusa critica da parte dei governi occidentali e dei gruppi per i diritti umani. La salute di Zhang è drasticamente peggiorata in carcere dopo aver messo in atto un lungo sciopero della fame. Secondo la sua famiglia, se sono anche state negate cure mediche adeguate.

 

Articolo in inglese: Chinese Researchers Built AI ‘Prosecutor’ That Can File Charges by Itself

NEWSLETTER
*Epoch Times Italia*
 
Articoli correlati