Allarme DarkBART: il chatbot basato su GPT si diffonde nel Dark Web

Secondo quanto riportato da un hacker etico lo sviluppatore dietro al chatbot malevolo FraudGPT sarebbe a lavoro su un altro e ancora più temibile strumento. Si parla di un sistema che sarebbe basato sull'Intelligenza Artificiale Generativa e, più nello specifico, sulla tecnologia di Google Bard.

A quanto pare, infatti, l'hacker noto come CanadianKingpin12 ha in cantiere diversi chatbot dannosi. L'azienda SlashNext ha avvertito riguardo la preparazione di due distinte minacce, note come DarkBART. Questi, di fatto, forniranno ai cybercriminali uno strumento simile a ChatGPT ma con funzioni senza filtri, dunque potenzialmente molto utili per chi opera nell'ambito del crimine informatico.

Secondo SlashNext queste piattaforme AI abbasseranno potenzialmente la barriera di ingresso per gli aspiranti criminali informatici. Si parla di sviluppo semplificato per quanto concerne campagne di phishing BEC (Business Email Compromise), individuazione e sfruttamento di vulnerabilità zero-day, distribuzione malware e molto altro.

In tal senso, la dichiarazione di Daniel Kelley, ricercatore di SlashNext, è esaustiva "La rapida progressione da WormGPT a FraudGPT e ora DarkBERT in meno di un mese sottolinea l'influenza significativa dell'intelligenza artificiale malevola sul panorama della sicurezza informatica e del crimine informatico".

Da WormGPT e FraudGPT fino a DarkBART: quando l'IA lavora per i cybercriminali

In termini di funzionalità, DarkBART sarà una sorta di "gemello cattivo" di Google Bard  e, a quanto pare,  si baserà su un modello di linguaggio di grandi dimensioni (LLM) noto come DarkBERT, creato dalla società sudcoreana di data intelligence S2W con il l'obiettivo proprio di combattere il crimine informatico.

Nonostante DarkBERT sia attualmente accessibile solo ai ricercatori accademici, in qualche modo i cybercriminali sono riusciti a mettervi le mani sopra. Lo stesso Kelley ha confermato come l'hacker abbia condiviso un video che dimostra come sia in possesso di questo strumento e di come stia allenando l'Intelligenza Artificiale attraverso il materiale presente sul Dark Web.

Non solo: a quanto pare, il nuovo chatbot sarà integrato con Google Lens: ciò apre scenari nuovi e ancora più inquietanti rispetto alle potenzialità dell'IA nel contesto dei potenziali attacchi.