Avete presente quelli che raccontano che il futuro della giustizia penale è nella tecnologia? Che i processi a distanza sono la vera chiave per alleggere il Moloch delle pendenze, che gli algoritmi semplificheranno e sveltiranno il lavoro di investigatori e giudici? Ebbene, ci piacerebbe che leggessero questa storia che vi stiamo per raccontare. La storia del primo errore giudiziario “ufficiale” negli Usa causato da un algoritmo su cui si basa il sistema di riconoscimento facciale in uso alla polizia del Michigan (secondo quanto riportato dal New York Times, che gli ha riservato ampio spazio). Una vicenda di ingiusta detenzione per fortuna breve, ma emblematica del rischio enorme che si corre volendosi affidare ciecamente alla sola tecnologia, in nome di una sua pretesa infallibilità, o alle prove scientifiche in genere, troppo spesso fallaci assai più di quanto si possa pensare.
Robert Julian-Borchak Williams, un afroamericano incensurato, sposato e padre di due figlie minori, è stato arrestato per un reato mai commesso: un furto di orologi all’interno di un negozio di lusso. E fin qui, nulla di particolarmente nuovo negli Stati Uniti, considerato l’altissimo numero di errori giudiziari che si verifica ogni anno oltreoceano. La vera novità è un’altra: l’arresto ingiusto nasceva dallo sbaglio di qualcosa che si pensa essere infallibile per definizione: l’algoritmo alla base della piattaforma di riconoscimento facciale utilizzato dagli agenti della polizia di molti stati Usa. Il sistema di identificazione ha incrociato un fotogramma del video ricavato dalle telecamere dell’impianto di sorveglianza del negozio, con la foto della patente di guida (catalogata nei database delle forze dell’ordine). E l’algoritmo non ha avuto dubbi: l’uomo ripreso mentre guardava la vetrina quel giorno era proprio Robert Julian-Borchak Williams.
La polizia ha quindi operato l’arresto, senza preoccuparsi di verificare l’indizio del riconoscimento facciale, ma ritenendolo una prova incontrovertibile. Un tipico caso in cui la cosiddetta prova scientifica è stata fallace.
La polizia, infatti, avrebbe potuto e dovuto, prima di operare l’arresto, raccogliere dati sulla posizione del cellulare in uso all’arrestato nel giorno del furto, vagliare testimonianze oculari, raccogliere prove in merito al possesso da parte del sospettato dell’abbigliamento utilizzato dal criminale ripreso nel video. Avrebbe scoperto subito, per esempio, che il giorno e nell’ora esatta del furto, Robert Julian-Borchak Williams aveva postato su Instagram il video della sua canzone preferita, “We are one di Maze e Frankie Beverly.
E invece l’uomo è stato costretto a passare 30 ore in una cella di sicurezza, prima che il capo della polizia del Michigan si scusasse pubblicamente, ammettendo che il sistema di riconoscimento facciale basato su un algoritmo fornisce spesso risultati “falsi positivi” (che cioè confermano erroneamente l’ipotesi accusatoria di partenza). E il motivo risiederebbe nel fatto che nella piattaforma non vengono inserite abbastanza immagini soprattutto in caso di minoranze etniche e di donne.
Non a caso, già nell’aprile 2019, il presidente di Microsoft, Brad Smith, aveva ammesso che il sistema sviluppato dalla sua società discriminava in particolare le donne e le minoranze etniche. Si basava infatti prevalentemente su immagini di uomini bianchi, di conseguenza il riconoscimento facciale si era tarato su quel modello di base. Proprio per questo difetto, disse ancora Smith, Microsoft aveva rinunciato a un contratto miliardario con un governo per la fornitura del sistema.
Non basta. A confermare che le piattaforme per il riconoscimento facciale sono tutt’altro che infallibili, anche una ricerca che il National Institute of Standards and Technology (NIST) ha pubblicato nel dicembre 2019: dopo aver analizzato 189 software realizzati da 99 sviluppatori diversi, e valutato 18,27 milioni di foto derivanti dagli archivi del Dipartimento di Stato, del Dipartimento della Sicurezza Interna e dell’FBI, la conclusione è stata disarmante. Nel caso delle immagini raffiguranti persone nere o asiatiche, i ricercatori hanno registrato “tassi più alti di falsi positivi“, con un fattore oscillante fra le 10 e le 100 volte a seconda degli algoritmi. Falsi positivi elevati includevano anche i nativi americani e le donne afroamericane.
Proprio a seguito dell’arresto sbagliato di Robert Julian-Borchak Williams, alcuni esponenti del Congresso statunitense stanno spingendo per regolamentare meglio l’uso delle soluzioni di riconoscimento facciale.
Avv. Riccardo Radi
