L'IA generativa cambia gli attacchi e li rende significativamente più sofisticati rispetto al passato. Richiede una nuova strategia di difesa, preferibilmente con un'intelligenza artificiale autoapprendente che riconosca, apprenda e implementi immediatamente modelli comportamentali completamente nuovi. Un sondaggio condotto da Darktrace su 6.700 dipendenti su come gestiscono la posta elettronica nelle aziende.
Il caso più recente mostra cosa può fare un'IA generativa: il crollo della Silicon Valley Bank (SVB) e la conseguente crisi bancaria. Gli aggressori hanno immediatamente sfruttato la situazione per falsificare comunicazioni altamente sensibili. Per fare ciò, hanno intercettato messaggi legittimi che istruivano i destinatari ad aggiornare i propri dati bancari per il libro paga. Questo incidente specifico corrisponde a dati generali: il 62% dei dipendenti delle società di servizi finanziari ha notato un aumento di e-mail e messaggi di testo fraudolenti negli ultimi sei mesi. Per AI generativa si intende in realtà qualsiasi tipo di intelligenza artificiale (AI) che crea nuovi testi, immagini, video, audio, codici o dati sintetici.
IA dell'attaccante contro IA del difensore
L'IA generativa richiede quindi una nuova strategia di difesa basata sull'IA ad autoapprendimento. A differenza di tutti gli altri strumenti di sicurezza della posta elettronica, in Darktrace Emails non viene addestrato su come sono gli "attacchi", ma apprende i normali modelli di comportamento in ogni singola azienda. Con una profonda conoscenza dell'azienda e di come ogni dipendente interagisce con la propria casella di posta, l'intelligenza artificiale può determinare per ogni e-mail se è sospetta o legittima. In particolare, le e-mail del CEO sono meglio protette.
I nuovi dati di Darktrace mostrano che le soluzioni di sicurezza e-mail, inclusi gli strumenti di IA nativi, basati su cloud e statici, impiegano in media tredici giorni per rilevare un attacco a una vittima. Quindi le aziende rimangono vulnerabili per quasi due settimane se si affidano esclusivamente a questi strumenti. L'ingegneria sociale, in particolare le campagne informatiche dannose via e-mail, come nell'esempio bancario di cui sopra, rimane la causa principale della vulnerabilità di un'organizzazione agli attacchi. L'accesso diffuso a strumenti di intelligenza artificiale generativa come ChatGPT, insieme alla crescente sofisticazione degli attori statali, significa che le truffe via e-mail sono più convincenti che mai.
Altri risultati del sondaggio
- L'87% dei lavoratori in tutto il mondo teme che gli hacker possano utilizzare l'IA generativa per creare e-mail fraudolente indistinguibili dalle comunicazioni reali.
- Le tre principali caratteristiche di comunicazione che hanno portato i dipendenti a scambiare un'e-mail per un attacco di phishing sono: richiesta di fare clic su un collegamento o aprire un allegato (72%), mittente sconosciuto o contenuto inatteso (61%) e scarsa ortografia e grammatica (62% ).
- Un quarto (25%) dei dipendenti è caduto per un'e-mail o un SMS fraudolento in passato.
Il 65% dei dipendenti ha notato un aumento della frequenza di e-mail e messaggi di testo fraudolenti negli ultimi sei mesi. - L'87% dei dipendenti è preoccupato per la quantità di informazioni personali disponibili su di loro online che potrebbero essere utilizzate per phishing e altre truffe via e-mail.
- Per l'87% delle aziende, i filtri antispam impediscono erroneamente a importanti e-mail legittime di raggiungere le proprie caselle di posta.
Più di un intervistato su tre ha provato ChatGPT o altri chatbot di intelligenza artificiale generativa (36%).
Questi numeri provengono da un sondaggio globale condotto da Darktrace nel marzo 2023 in collaborazione con Censuswide su 6.711 dipendenti nel Regno Unito, Stati Uniti, Francia, Germania, Australia e Paesi Bassi. L'obiettivo era acquisire informazioni sul comportamento umano in relazione alla posta elettronica e comprendere meglio come i dipendenti di tutto il mondo reagiscono a potenziali minacce alla sicurezza, come comprendono la sicurezza della posta elettronica e quali tecnologie moderne vengono utilizzate come strumenti per contrastare le minacce.
Altro su Darktrace.com
A proposito di Darktrace Darktrace, leader globale nell'intelligenza artificiale per la sicurezza informatica, protegge aziende e organizzazioni con la tecnologia AI dagli attacchi informatici. La tecnologia di Darktrace registra modelli di traffico atipici che indicano possibili minacce. In tal modo, riconosce metodi di attacco nuovi e precedentemente sconosciuti che sono trascurati da altri sistemi di sicurezza.