Bing: Microsoft rimuove il revenge porn dalla ricerca

Microsoft ha annunciato oggi di aver stretto una partnership con StopNCII per rimuovere in modo proattivo immagini e video intimi dannosi da Bing. StopNCII è un progetto gestito dalla Revenge Porn Helpline. Questo consente alle persone di creare hash digitali delle loro immagini e video intimi senza caricare i media dal loro telefono. StopNCII aggiunge quindi questi hash a un database utilizzato per trovare le stesse immagini o immagini simili online, che vengono poi rimosse dai loro partner, tra cui Facebook, TikTok, Reddit, Pornhub, Instagram, OnlyFans e Snapchat.

A marzo, Microsoft ha condiviso la sua tecnologia PhotoDNA con StopNCII, consentendo una creazione avanzata di hash digitali senza che le immagini o i video di una persona lascino il suo dispositivo. Come spiegato nell’annuncio di marzo: "molto simile alla tecnologia di hashing che StopNCII.org utilizza già (PDQ), PhotoDNA è un processo aggiuntivo che consente di trasformare le immagini dannose identificate in un'impronta digitale digitale, che può quindi essere condivisa con le piattaforme del settore per identificare e rimuovere qualsiasi materiale di abuso di immagini intime non consensuali".

Bing: eliminate già 268.899 immagini di revenge porn

Microsoft ha annunciato di aver sperimentato l'uso del database di hash di StopNCII per rimuovere immagini intime dall'indice di ricerca di Bing. Utilizzando questo database, Microsoft afferma di aver preso provvedimenti su 268.899 immagini fino alla fine di agosto. L'ascesa dell'intelligenza artificiale ha anche portato a una generazione crescente di immagini di nudo deep fake da foto non intime condivise online. Sebbene queste immagini siano false, possono essere altrettanto angoscianti per coloro che vengono sfruttati. Un report del 2019 di DeepTrace (ora Sensity) ha mostrato che il 96% dei video deepfake su Internet sono di natura pornografica. Inoltre, quasi tutti presentano un uso non consensuale dell'immagine di una donna. Molte di queste immagini vengono caricate come "revenge porn", per estorsione o per generare entrate da siti senza scrupoli.

Sfortunatamente, le immagini generate dall'intelligenza artificiale rendono più difficile il confronto con gli hash PhotoDNA. In questi casi, le persone interessate devono segnalare manualmente le immagini a Microsoft, Google e altre società di media online. Microsoft afferma che le persone interessate possono utilizzare la pagina “Segnala un problema per richiedere” che le immagini reali o sintetiche vengano rimosse dall'indice di ricerca di Bing. Sebbene Google non abbia aderito a questa iniziativa, fornisce anche linee guida e un modo per rimuovere le immagini intime dal proprio indice.