“Così preveniamo gli omicidi”. Arriva l’algoritmo per individuare i potenziali killer

Il governo britannico sta sviluppando un programma per “prevedere gli omicidi”. Questa la notizia lanciata dal Guardian: l’obiettivo è identificare le persone più propense a diventare killer attraverso i dati personali di coloro che sono già noti alle autorità. In base a quanto reso noto, gli esperti starebbe utilizzando degli algoritmi per analizzare le informazioni di migliaia di persone nel tentativo di “identificare coloro che sono maggiormente a rischio di commettere gravi reati violenti”.

Inizialmente intitolato “Homicide prediction project”, il programma “Sharing data to improve risk assessment” è stato ideato per rafforzare la sicurezza pubblica, ma non mancano le polemiche. “Agghiacciante e distopico” il primo commento dei critici. L’esistenza del progetto è emersa grazie al gruppo Statewatch, mentre i dettagli sono emersi grazie alle richieste di accesso alle informazioni.

Statewatch afferma che i dati di persone non condannate per reati penali saranno utilizzati come parte del progetto, comprese informazioni personali su autolesionismo e dettagli relativi ad abusi domestici. I funzionari britannici lo negano fermamente, sottolineando che sono stati utilizzati solo dati su persone con almeno una condanna penale. Non è tutto. Secondo i critici, i dati utilizzati creerebbero pregiudizi nelle previsioni contro le persone povere e appartenenti a minoranze etniche.

Il Ministero della Giustizia rimarca che il programma “esaminerà le caratteristiche del trasgressore che aumentano il rischio di commettere un omicidio” ed “esplorerà tecniche di scienza dei dati alternative e innovative per la valutazione del rischio di omicidio”. Il progetto “fornirebbe prove per migliorare la valutazione del rischio di reati gravi e, in ultima analisi, contribuirebbe a proteggere il pubblico tramite una migliore analisi”, ha aggiunto un portavoce.

I dati utilizzati provengono da varie fonti ufficiali: tra le altre il Probation Service e dalla polizia della Greater Manchester (prima del 2015). Le informazioni elaborate includono nomi, date di nascita, sesso, etnia e un codice numerico che identifica i cittadini. Saranno inoltre condivisi, ed elencati in “categorie speciali di dati personali”, “indicatori sanitari che si prevede abbiano un significativo potere predittivo”, come i dati relativi a salute mentale, dipendenza, suicidio e vulnerabilità, autolesionismo e disabilità, evidenzia il Guardian.

Così Sofia Lyall, ricercatrice per Statewatch: “Il tentativo del Ministero della Giustizia di costruire questo sistema di previsione degli omicidi è l’ultimo esempio agghiacciante e distopico dell’intenzione del governo di sviluppare i cosiddetti sistemi di ‘previsione’ del crimine. Di volta in volta, la ricerca dimostra che i sistemi algoritmici per ‘prevedere’ il crimine sono intrinsecamente imperfetti. Questo ultimo modello, che utilizza dati provenienti dalla nostra polizia istituzionalmente razzista e dal Ministero dell’Interno, rafforzerà e amplificherà la discriminazione strutturale alla base del sistema legale penale. Come altri sistemi del suo genere, codificherà un pregiudizio verso comunità di minoranze etniche e a basso reddito. Creare uno strumento automatizzato per profilare le persone come criminali violenti è profondamente sbagliato e usare dati così sensibili su salute mentale, dipendenza e disabilità è altamente invasivo e allarmante”.

Un portavoce del Ministero della Giustizia ha tenuto a precisare: “Questo progetto è condotto solo a fini di ricerca. È stato ideato utilizzando i dati esistenti detenuti da HM Prison and Probation Service e dalle forze di polizia sui criminali condannati per aiutarci a comprendere meglio il rischio che le persone in libertà vigilata commettano gravi violenze. Un rapporto sarà pubblicato a tempo debito”.

I funzionari affermano che il servizio carcerario e di libertà vigilata usa già strumenti di valutazione del rischio e questo progetto verificherà se l’aggiunta di nuove fonti di dati, da dati di polizia e custodia, migliorerà la valutazione del rischio.