Ci sono cattive idee e poi ce ne sono di pessime. Quella del Governo inglese, sembra decisamente rientrare nella seconda categoria: un sistema per identificare le persone più probabilmente destinate a commettere reati violenti.

Dare in pasto a degli algoritmi i dati di centinaia di migliaia di persone, tra criminali, vittime di reati e testimoni.

Insomma, buona parte dei dati personali e personalissimi – inclusi quelli relativi a ogni genere di patologia – in possesso del sistema giudiziario inglese e chiedere, si fa per dire, a un algoritmo di identificare chi, più probabilmente, commetterà un reato violento.

Questo almeno secondo Statewatch l’organizzazione non-profit che ha portato alla luce un progetto al quale sta lavorando il Governo di Sua Maestà, Re Carlo.

L’amministrazione della giustizia britannica nega, almeno in parte e sostiene che saranno usati solo dati di persone condannate almeno una volta.

Quale che sia la verità sui dati effettivamente utilizzati la questione rimane: stiamo parlando di giustizia predittiva in pieno stile Minority Report anche se non è ancora chiaro cosa accadrà delle persone che l’algoritmo suggerirà essere più pericolose.

L’obiettivo dichiarato, però, è il solito: rendere più sicura la Gran Bretagna.

Obiettivo, come sempre, nobile.

Il punto sono, anche in questo caso, i mezzi individuati per raggiungerlo.

Le preoccupazioni dei ricercatori di Statewatch sono quelle che, sfortunatamente, si sentono rimbalzare ormai da anni, ciclicamente, da una parte e dall’altra del globo: gli algoritmi discriminano, i risultati non sono attendibili, le persone non dovrebbero essere giudicate sulla base della semplice propensione, algoritmicamente calcolata, a delinquere ma per quello che fanno, non per l’appartenenza a una categoria ma per quello che sono.

E sono preoccupazioni difficili da non condividere.

Ma prima ancora, il punto è: in assenza di qualsivoglia legge, procedimento, regola o policy che accadrà delle persone bollate come pericolose?

Diventeranno sorvegliate speciali anche se sono non hanno mai commesso alcun crimime o, comunque, hanno scontato il loro debito con la giustizia?

Saranno le prime alle quali si correrà a imputare ogni crimine?

Non funziona, non convince, spaventa.
È una deriva algo-giustizialista che non dovrebbe trovar posto nelle nostre democrazie.
Troppo lungo però il discorso, troppo complicato per affrontarlo in maniera esaustiva.
Meglio accontentarsi di usare la notizia come scusa per suggerire a tutti di esser vigili, tener gli occhi aperti, non abituarsi mai a ciò che non è naturale e non deve diventarlo.

Buona giornata e good morning privacy naturalmente!