La polizia dell’Australia Occidentale ha concluso un trial di cinque mesi sul riconoscimento facciale in tempo reale dopo aver scansionato 1.380.882 volti durante 100 dispiegamenti in 43 località regionali e metropolitane. La forza ha dichiarato che il trial, terminato sabato, ha portato a 122 arresti e nove avvisi errati. I dispiegamenti hanno anche portato gli agenti a interagire con 146 autori di reati sessuali registrati e a localizzare 10 persone per controlli di benessere.

Tre operazioni al Perth Royal Show hanno rappresentato 223.749 scansioni, producendo 15 avvisi, tre arresti e sette interazioni con autori di reati sessuali registrati, secondo la polizia.

Un portavoce della polizia ha affermato che i nove avvisi errati su 1,38 milioni di scansioni rappresentavano un tasso di errore dello 0,00065%. Il commissario della polizia dell’Australia Occidentale Col Blanch ha detto a una conferenza stampa domenicale che gli agenti hanno parlato con ogni persona coinvolta in un falso avviso. Ha detto che nessuno è stato arrestato e che non è stato presentato alcun reclamo, e ha descritto il numero come molto basso ma non zero. Blanch ha detto che la tecnologia non era perfetta e che le autorità lo sapevano prima del trial, aggiungendo che gli agenti hanno dato seguito agli avvisi come avrebbero fatto con sospetti pubblici.

Il chief executive di Civil Liberties Australia, Bill Rowlings, ha criticato la presentazione del tasso di errore da parte della forza. Ha detto che la polizia stava sovrastimando l’accuratezza del sistema e ha sostenuto che il tasso errato dovrebbe essere valutato in base a quanti dei 122 arresti portano a condanne. Rowlings ha detto che il vero tasso errato sarebbe noto solo una volta che gli arrestati avessero avuto il loro giorno in tribunale, suggerendo che se metà non fosse stata condannata il tasso errato sarebbe stato del 50%. Ha anche detto che le scansioni sono state effettuate senza un ragionevole sospetto.

Quando è stato annunciato il trial, l’Office of the Information Commissioner WA, l’autorità indipendente di vigilanza sulla privacy dello Stato, ha dichiarato di non essere stata coinvolta nell’attuazione del trial e ha messo in guardia sui danni collettivi alla privacy. L’ufficio è stato contattato per un commento.

Secondo le linee guida del trial, le telecamere montate su o vicino a veicoli di polizia contrassegnati hanno scansionato volti in aree pubbliche designate e li hanno confrontati con un elenco di avvisi tratto dalle banche dati della polizia. La polizia ha detto che le immagini delle persone non presenti nell’elenco sono state pixelate in tempo reale ed eliminate immediatamente senza essere archiviate. Il trial aveva già attirato critiche per la privacy e il bias algoritmico, con esperti che affermano che il riconoscimento facciale può colpire in modo sproporzionato gruppi emarginati già sovrarappresentati nelle liste di sorveglianza della polizia, e che gli algoritmi hanno storicamente avuto tassi di falsa corrispondenza più elevati per le persone con tonalità della pelle più scure.

I furgoni di sorveglianza sono stati rimossi dal dispiegamento pubblico mentre la polizia conduce una valutazione interna delle prestazioni della tecnologia e dei suoi impatti sulla comunità, inclusa una revisione delle salvaguardie e se tutti i requisiti sono stati soddisfatti.

Fonti: The Guardian World.