Due rapporti di ricerca mostrano l’attuale utilizzo dell’intelligenza artificiale per gli attacchi e, dall’altro, viene analizzato l’atteggiamento dei criminali informatici nei confronti dell’intelligenza artificiale esaminando i forum del dark web. La sorpresa: non tutti i criminali sono convinti dei vantaggi dell’intelligenza artificiale.
Sophos ha pubblicato oggi due rapporti sull’uso dell’intelligenza artificiale nel crimine informatico. Il rapporto “Il lato oscuro dell’intelligenza artificiale: campagne di truffa su larga scala rese possibili dall’intelligenza artificiale generativa” utilizza un caso di studio specifico per esaminare come i truffatori potrebbero utilizzare in futuro tecnologie come ChatGPT per sferrare attacchi fraudolenti su larga scala con competenze tecniche minime. Il secondo rapporto "I criminali informatici non riescono a mettersi d'accordo sui GPT" presenta l'indagine di vari forum del dark web. I risultati mostrano che alcuni criminali informatici sono scettici sull’attuale utilizzo dei chatbot e di altre tecnologie di intelligenza artificiale, nonostante il potenziale della nuova tecnologia.
“Abbiamo trovato numerosi post sul Dark Web sui potenziali impatti negativi dell’intelligenza artificiale sulla società e sulle implicazioni etiche del suo utilizzo. In altre parole, almeno per ora, sembra che i criminali informatici stiano discutendo sull’intelligenza artificiale come tutti noi”, ha affermato Christopher Budd, direttore della ricerca X-Ops presso Sophos.
AI: Il lato oscuro dell'intelligenza artificiale
Utilizzando un semplice modello di eCommerce e ottimi strumenti di modello linguistico come GPT-4, Sophos X-Ops è stata in grado di creare un sito Web completamente funzionale con immagini, audio e descrizioni dei prodotti generati dall'intelligenza artificiale, nonché una falsa pagina di accesso a Facebook e un falso checkout pagina, per raccogliere dati personali di accesso e carta di credito. Per creare e gestire il sito web sono state necessarie conoscenze tecniche minime. Lo stesso strumento ha inoltre consentito di creare centinaia di siti Web simili in pochi minuti con il semplice clic di un pulsante.
“È naturale e previsto che i criminali utilizzino le nuove tecnologie per automatizzare le loro operazioni in modo da essere il più efficaci possibile”, ha affermato Ben Gelman, senior data scientist presso Sophos. “La creazione originale di e-mail di spam è stata un passo cruciale nella storia delle frodi poiché ha cambiato in modo significativo la portata del campo di gioco criminale. L’attuale sviluppo dell’intelligenza artificiale ha un potenziale simile: non appena sarà disponibile una tecnologia AI in grado di generare minacce complete e automatizzate, verrà utilizzata. L’integrazione attualmente osservata di elementi di intelligenza artificiale generativa nelle frodi classiche, ad esempio attraverso testi o foto generati dall’intelligenza artificiale per attirare le vittime, è solo l’inizio”.
Per quanto riguarda le intenzioni dell'attuale progetto di ricerca, Gelman afferma: “Uno dei motivi per cui stiamo conducendo l'attuale progetto è quello di stare un passo avanti rispetto ai criminali. Creando un sistema per la creazione di siti Web fraudolenti su larga scala, più avanzato rispetto agli strumenti attualmente utilizzati dai criminali, disponiamo di una capacità unica di analizzare e prepararci alla minaccia prima che si diffonda”.
I criminali informatici mettono in dubbio il potenziale di GPT & Co
Nella seconda parte della sua offensiva di ricerca sull'intelligenza artificiale, Sophos Mentre l’uso dell’intelligenza artificiale da parte dei criminali informatici sembra essere agli inizi, gli autori delle minacce su queste piattaforme stanno già discutendo intensamente del potenziale dell’ingegneria sociale. Un esempio di ciò è l'attuale ondata di truffe romantiche "prenotazione di maiali".
Inoltre, Sophos ha scoperto che la maggior parte dei post riguardava account ChatGPT compromessi per la vendita e "jailbreak", modi per aggirare le protezioni integrate negli LLM, consentendo ai criminali informatici di abusare degli strumenti per scopi dannosi. Il team di ricerca ha anche trovato dieci applicazioni ChatGPT che secondo gli sviluppatori potrebbero essere utilizzate per attacchi informatici e sviluppo di malware. Tuttavia, l’efficacia di tali strumenti veniva fortemente messa in dubbio da parte della comunità del dark web e talvolta veniva addirittura vista come un tentativo di imbrogliare con programmi inutili.
Dibattiti sull'intelligenza artificiale
“Anche se abbiamo visto alcuni criminali informatici tentare di creare malware o strumenti di attacco utilizzando LLM, i risultati erano rudimentali e spesso incontravano lo scetticismo di altri utenti. Abbiamo trovato anche numerosi post sul potenziale impatto negativo dell’intelligenza artificiale sulla società e sulle implicazioni etiche del suo utilizzo. In altre parole, almeno per ora, sembra che i criminali informatici stiano discutendo sull’intelligenza artificiale come tutti noi”, ha affermato Christopher Budd, direttore della ricerca X-Ops presso Sophos.
Per ulteriori informazioni sui siti Web di truffa generati dall'intelligenza artificiale e sull'atteggiamento degli autori delle minacce nei confronti degli LLM, consultare i rapporti completi in inglese “Il lato oscuro dell’intelligenza artificiale: campagne di truffa su larga scala rese possibili dall’intelligenza artificiale generativa” , "I criminali informatici non riescono a mettersi d'accordo sui GPT" da trovare.
Maggiori informazioni su Sophos.com
A proposito di Sophos Sophos gode della fiducia di oltre 100 milioni di utenti in 150 paesi. Offriamo la migliore protezione contro le minacce informatiche complesse e la perdita di dati. Le nostre soluzioni di sicurezza complete sono facili da implementare, utilizzare e gestire. Offrono il costo totale di proprietà più basso del settore. Sophos offre soluzioni di crittografia pluripremiate, soluzioni di sicurezza per endpoint, reti, dispositivi mobili, e-mail e web. C'è anche il supporto dei SophosLabs, la nostra rete globale di centri di analisi proprietari. Le sedi di Sophos sono a Boston, USA e Oxford, UK.