Facial Recognitioni: gli algoritmi discriminano le minoranze etniche?

Il National Institute for Standards and Technology, uno dei rami del Dipartimento del commercio USA, ha recentemente pubblicato un report intitolato "Face Recognition Vendor Test: Demographic Effects". Si tratta di una ricerca volta ad analizzare il comportamento degli algoritmi di riconoscimento facciale adottati dalle pubbliche amministrazioni americane.

Dallo studio emerge un quadro abbastanza preoccupante, infatti tali sistemi sarebbero tarati in modo da riconoscere con maggiore precisione le persone di razza biaca. Dunque di riflesso le persone appartenenti ad una minoranza etnica avrebbero molte più probabilità di non essere riconosciute da questi.

I ricercatori del governo americano avrebbero analizzato i tool di riconoscimento facciale sviluppati da più di 100 aziende. Patrick Grother, uno dei membri del team di ricerca, affermerebbe che le distorsioni nel riconoscimento delle persone non bianche sarebbero evidenti nella maggior parte degli algoritmi studiati.

Gli asiatici, gli afroamericani e ed i nativi americani avrebbero quindi molta più probabilità di essere identificati erroneamente rispetto ai bianchi. Questi difetti di progettazione potrebbero avere quindi serie ricadute nelle indagini delle agenzie investigative federali e locali.

Negli USA tali tecnologie vengono impiegate diffusamente dalle forze dell'ordine, dunque questo genere di problematiche potrebbero incidere negativamente sulle capacità investigative degli inquirenti. Dal punto di vista pratico, un riconoscimento errato potrebbe depistare le indagini e portare all'arresto della persona sbagliata.

L'indagine del Dipartimento del Commercio statunitense è l'ulteriore conferma di una problematica già nota nel mondo accademico. Gran parte dei dati che vengono impiegati per addestrare gli algoritmi di riconoscimento facciale sono composti da campioni composto da persone bianche. I soggetti appartenenti alle minoranze etiche vengono spesso ignoranti dalle compagnie tech e questo potrebbe portare a conseguenze inaspettate.

Per tali motivi già da diverso tempo le città di San Francisco, Somerville, Berkeley e Oakland avrebbero proibito ai propri funzionari di implementare sistemi simili all'interno delle pubbliche amministrazioni. A Portland, invece, il comune avrebbe in cantiere un disegno di legge per bandire l'uso di queste tecnologie anche all'interno delle società private. Inoltre, diversi candidati alle Presidenziali del 2020 avrebbero promesso di irrigidire la legislazione federale in merito.

Via NIST