I criminali usano l'intelligenza artificiale, non solo per i deepfake. Europol, UNICRI e Trend Micro riferiscono sulle minacce attuali e future dell'IA.
Trend Micro ha pubblicato oggi un nuovo rapporto di ricerca, prodotto in collaborazione con Europol e l'Istituto interregionale delle Nazioni Unite per lo studio del crimine e della giustizia (UNICRI). In esso, i ricercatori di sicurezza si occupano dell'uso attuale e possibile futuro dell'intelligenza artificiale (AI) da parte dei criminali. Il rapporto fornisce alle forze dell'ordine, ai responsabili politici e ad altre organizzazioni informazioni sugli attacchi attuali e potenziali futuri che utilizzano l'intelligenza artificiale e raccomandazioni per mitigare questi rischi.
Potenziali vantaggi della tecnologia AI
“L'AI promette al mondo maggiore efficienza, automazione e autonomia. In un momento in cui il pubblico è sempre più preoccupato per il potenziale uso improprio dell'IA, dobbiamo rendere trasparenti le minacce, ma anche esaminare i potenziali vantaggi della tecnologia dell'IA", afferma Edvardas Šileris, capo del Centro per la criminalità informatica di Europol (Europol EC3). “Questo rapporto non solo ci aiuterà ad anticipare potenziali usi e abusi dannosi dell'IA, ma anche a prevenire e mitigare in modo proattivo queste minacce. In questo modo possiamo liberare il potenziale dell'intelligenza artificiale e beneficiare dell'uso positivo dei sistemi di intelligenza artificiale".
Il rapporto conclude che i criminali informatici utilizzeranno l'intelligenza artificiale sia come vettore di attacco che come superficie di attacco. I deepfake (contenuti multimediali dall'aspetto realistico come foto, audio e video modificati e distorti dall'IA) sono attualmente l'uso più noto dell'IA come vettore di attacco.Tuttavia, il rapporto avverte che in futuro saranno necessarie nuove tecnologie di screening per rilevarlo Ridurre il rischio di campagne di disinformazione ed estorsione, nonché di minacce rivolte ai set di dati di IA.
L'intelligenza artificiale potrebbe supportare i seguenti tipi di attacchi
- Convincenti attacchi di ingegneria sociale su larga scala
- Malware in grado di esfiltrare determinati dati da documenti su larga scala (document scraping)
- Bypassare il riconoscimento delle immagini e la biometria vocale
- Attacchi ransomware che prendono di mira le vittime in modo ancora più preciso e aggirano i meccanismi di protezione
- Inquinamento dei dati dall'identificazione di punti ciechi nelle regole di rilevamento
"Poiché le applicazioni di intelligenza artificiale hanno un impatto crescente sul mondo reale, diventa chiaro che questa sarà una tecnologia fondamentale in futuro", spiega Irakli Beridze, capo del Centro per l'intelligenza artificiale e la robotica dell'UNICRI. “Ma proprio come l'intelligenza artificiale offre vantaggi molto reali alla società, lo è anche la minaccia di un uso dannoso. Siamo onorati di unire le forze con Europol e Trend Micro per far luce sul lato oscuro dell'IA e incoraggiare ulteriori discussioni su questo importante argomento".
Il rapporto avverte inoltre che sono in fase di sviluppo sistemi di intelligenza artificiale per migliorare l'efficacia del malware e interrompere i sistemi anti-malware e di riconoscimento facciale.
L'intelligenza artificiale calcola le password, rompe i codici CAPTCHA, clona le voci
“I criminali informatici sono sempre stati tra i primi ad adottare le ultime tecnologie, e questo è anche il caso dell'AI. Come mostra il nostro rapporto, è già utilizzato per il cracking di password, il codice CAPTCHA e la clonazione vocale. E ci sono molte altre innovazioni dannose in cantiere”, ha affermato Martin Rösler, responsabile del team di ricerca sulle minacce lungimiranti di Trend Micro. "Siamo orgogliosi di lavorare con Europol e UNICRI per aumentare la consapevolezza di questa minaccia e così facendo contribuire a creare un futuro digitale più sicuro per tutti noi".
Alla fine del rapporto, le tre organizzazioni raccomandano varie misure per affrontare l'IA:
- Sfruttare il potenziale della tecnologia AI come strumento di lotta alla criminalità per rendere il settore della sicurezza informatica e le forze dell'ordine a prova di futuro
- Continuare la ricerca nel campo dell'IA per sviluppare più tecnologie di difesa
- Promuovere e sviluppare quadri di progettazione IA sicuri
- Riduzione della retorica politicamente carica sull'uso dell'intelligenza artificiale per scopi di sicurezza informatica
- Utilizzo di partenariati pubblico-privato e creazione di gruppi di esperti multidisciplinari
L'intero rapporto di ricerca è disponibile online.
Vai direttamente al rapporto su TrendMicro.com
Informazioni su TrendMicro In qualità di uno dei principali fornitori mondiali di sicurezza IT, Trend Micro contribuisce a creare un mondo sicuro per lo scambio di dati digitali. Con oltre 30 anni di esperienza nella sicurezza, ricerca sulle minacce globali e costante innovazione, Trend Micro offre protezione per aziende, agenzie governative e consumatori. Grazie alla nostra strategia di sicurezza XGen™, le nostre soluzioni beneficiano di una combinazione intergenerazionale di tecniche di difesa ottimizzate per ambienti all'avanguardia. Le informazioni sulle minacce in rete consentono una protezione migliore e più rapida. Ottimizzate per carichi di lavoro cloud, endpoint, e-mail, IIoT e reti, le nostre soluzioni connesse forniscono visibilità centralizzata in tutta l'azienda per un rilevamento e una risposta più rapidi alle minacce.