Jigsaw di Google rilascia Altitude per contrastare gli estremismi

Jigsaw, la divisione di Google dedicata all'innovazione tecnologica per il bene sociale, ha recentemente reso open-source Altitude, uno strumento progettato per aiutare le piattaforme online a identificare e rimuovere contenuti estremisti.

Questa iniziativa mira a supportare in particolare le piccole aziende che devono conformarsi a normative come il Digital Services Act dell'Unione Europea, affrontando la sfida della moderazione dei contenuti senza sovraccaricare le loro risorse limitate.

Altitude offre una soluzione innovativa consolidando informazioni provenienti da fonti affidabili come il Global Internet Forum to Counter Terrorism (GIFCT) e Tech Against Terrorism in un'unica piattaforma. Questo permette ai moderatori di esaminare e rimuovere rapidamente i contenuti segnalati. Tuttavia, Altitude non elimina automaticamente i contenuti; piuttosto, fornisce avvisi per consentire una valutazione umana, garantendo che le decisioni finali siano prese con il discernimento necessario per evitare errori.

La natura open-source di Altitude farà la differenza

Le grandi aziende tecnologiche dispongono di risorse significative per la moderazione dei contenuti, ma le piattaforme più piccole spesso affrontano difficoltà enormi nel mantenere ambienti online sicuri. Altitude mira a livellare il campo di gioco offrendo una soluzione gratuita e accessibile, che può essere personalizzata e migliorata dalla comunità tecnologica grazie al suo rilascio come open-source. Questo approccio incoraggia la collaborazione e l'innovazione, permettendo a sviluppatori e aziende di adattare lo strumento alle proprie esigenze specifiche.

Lo sviluppo di Altitude evidenzia la crescente importanza della lotta contro l'estremismo online. Con l'inasprimento delle normative e l'aumento del volume di contenuti dannosi, strumenti come Altitude diventano essenziali per mantenere ambienti online sicuri e protetti.La disponibilità di una risorsa così potente e flessibile può fare una grande differenza per le piattaforme più piccole, che spesso non hanno i mezzi per sviluppare soluzioni interne altrettanto efficaci.

È importante sottolineare che, nonostante Altitude rappresenti una risorsa preziosa, non è una soluzione definitiva. Il giudizio umano e gli sforzi continui sono ancora cruciali per affrontare efficacemente la complessa questione dei contenuti estremisti online. La valutazione umana permette di gestire le sfumature e le complessità che gli algoritmi possono non cogliere, garantendo un approccio equilibrato e responsabile.