Google Cloud Vision API: stop alle distinzioni di genere

Il team di Google ha deciso di modificare le logiche di classificazione dei volti umani sfruttate dalle Cloud Vision API. Gli ingegneri software di Mountain View hanno infatti configurato tali interfacce in modo tale che le persone non vengano più etichettate in base al genere di appartenenza.

Le Cloud Vision API sono state progettate per fornire agli sviluppatori dei modelli di machine learning pre-trained, esse si occupano sostanzialmente di assegnare automaticamente delle etichette alle immagini presenti nei dataset analizzati classificandole tramite migliaia di categorie già predefinite dai programmatori.

D'ora in poi l'algoritmo di classificazione delle Cloud Vision API etichetterà i volti umani semplicemente sotto la categoria "persone". Big G ha optato per questa impostazione in modo tale da evitare ogni sorta di pregiudizio contro gli appartenenti alla community transgender.

A rendere nota la novità è stato un portavoce di Google intervistato dalla redazione di Venturebeat:

Dato che il genere di una persona non può essere dedotto dall'aspetto abbiamo deciso di rimuovere queste etichette [donna e uomo] dalle nostre API. Cosi facendo ci siamo anche allineati ai nostri stessi principi che ci impongono di evitare di creare o di rafforzare i pregiudizi di ogni forma. A partire da oggi verrà utilizzata l'etichetta neutra "persone" per definire i volti umani.

Con questa scelta Google ha messo in luce una problematica comune a diversi sistemi di riconoscimento facciale. Non è raro infatti che gli algoritmi vengano programmati, inconsapevolmente, sulla base di pregiudizi di tipo etnico o di genere. Da un recente studio dell'Università del Colorando è emerso che i sistemi di intelligenze artificiali di Amazon, Clarifai, Microsoft riuscirebbero a identificare correttamente circa il 95% dei volti di uomini e donne cisgender mentre, per quanto riguarda le persone transgender tale percentuale scenderebbe al 72%.

Difetti di progettazione di questo tipo sono già noti da tempo alle aziende tech. Ad aprile 2019 vari membri della comunità scientifica pubblicarono una lettera aperta che metteva in guardia sull'uso dei software di riconoscimento facciale da parte della polizia.

Secondi i ricercatori sistemi di questo tipo presenterebbero alcune difficoltà nel riconoscerne i soggetti delle minoranze etiche, dunque il loro uso potrebbe ostacolare il lavoro degli inquirenti o generare falsi positiv.