I ricercatori di sicurezza sono stati in grado di utilizzare l'IA generativa Bard di Google per generare e-mail di phishing, keylogger malware e semplice codice ransomware.
La rivoluzione dell'IA generativa ha innescato un cambio di paradigma nel campo dell'intelligenza artificiale, consentendo alle macchine di creare e generare contenuti con notevole raffinatezza. L'intelligenza artificiale generativa si riferisce al sottoinsieme di modelli e algoritmi di intelligenza artificiale in grado di generare autonomamente testo, immagini, musica e persino video che imitano le creazioni umane. Questa tecnologia rivoluzionaria ha aperto una moltitudine di possibilità creative, dal potenziamento di artisti e designer all'aumento della produttività in tutti i settori. Tuttavia, la proliferazione dell'IA generativa ha anche sollevato notevoli preoccupazioni e considerazioni etiche. Una delle preoccupazioni principali ruota attorno al possibile uso improprio di questa tecnologia per scopi dannosi, come ad esempio B. Criminalità informatica.
Scopi dannosi
Nei rapporti precedenti, Check Point Research ha descritto in dettaglio come i criminali informatici stiano sfruttando la rivoluzionaria tecnologia per scopi dannosi, in particolare per creare codice e contenuti dannosi tramite la piattaforma di intelligenza artificiale generativa di OpenAI, ChatGPT. In questo rapporto, i ricercatori hanno rivolto la loro attenzione alla piattaforma di intelligenza artificiale generativa di Google "Bard". Partendo da questo pensiero e seguendo le analisi precedenti, i ricercatori di sicurezza hanno analizzato la piattaforma con due obiettivi principali: verificare se sia possibile utilizzare Bard per scopi dannosi (es. creazione di email di phishing/malware/ransomware) e nel secondo passaggio confrontare Google Bard con ChatGPT in termini di creazione di contenuti dannosi.
Cosa può generare Bard
- Email di phishing
- Malware keylogger (uno strumento di monitoraggio che monitora e registra ogni battitura su un computer)
- Semplice codice ransomware
Innanzitutto, CPR ha provato la richiesta più semplice per creare un'e-mail di phishing, che è stata respinta sia da ChatGPT che da Bard. CPR ha provato di nuovo, chiedendo un'e-mail di phishing di esempio e mentre ChatGPT ha negato la richiesta, Bard ha inviato un'e-mail di phishing ben scritta fingendosi una società di servizi finanziari. Dopo ulteriori tentativi e con una giustificazione per la richiesta, entrambi i robot AI alla fine hanno consegnato un keylogger che ha registrato le "mie" sequenze di tasti (del ricercatore rispetto a quelle dell'utente) con la differenza che ChatGPT ha aggiunto una sorta di disclaimer sull'uso dannoso.
Secondo tentativo
Un secondo tentativo ha dimostrato che Bard crea anche un semplice codice ransomware in modo indiretto. Dopo che una prima semplice richiesta non è andata a buon fine, i ricercatori hanno chiesto a Bard quali sono le azioni più comuni eseguite dal ransomware. CPR ha ricevuto un elenco puntato di come funziona il ransomware e lo ha trasformato in richieste di script con una semplice operazione di copia e incolla. Questo ha funzionato: CPR ha ricevuto il codice specificando i requisiti per lo script. Dopo che i ricercatori hanno modificato leggermente lo script con l'aiuto di Bard e aggiunto alcune funzioni ed eccezioni aggiuntive, hanno ottenuto uno script ransomware funzionante.
Sommario
1. Le protezioni contro gli abusi di sicurezza informatica di Bard sono significativamente più deboli rispetto a quelle di ChatGPT. Di conseguenza, è molto più semplice generare contenuti dannosi utilizzando le funzionalità di Bard.
2. Bard non contiene quasi alcuna restrizione sulla creazione di e-mail di phishing, lasciando spazio a un potenziale uso improprio e sfruttamento di questa tecnologia.
3. Con manipolazioni minime, Bard può essere utilizzato per sviluppare keylogger malware, che rappresentano un rischio per la sicurezza.
4. Gli esperimenti di CPR hanno dimostrato che è possibile creare semplici ransomware utilizzando le capacità di Bard.
Nel complesso, sembra che il Bard di Google debba ancora imparare appieno dalle lezioni che ChatGPT ha dimostrato nell'implementare le restrizioni anti-abuso nei cyber spazi. Le restrizioni esistenti a Bard sono relativamente semplici e simili a quelle osservate da CPR su ChatGPT nelle sue fasi iniziali alcuni mesi fa. Si spera che questi siano solo i primi passi di un lungo cammino e che la piattaforma implementi presto le necessarie restrizioni e limiti di sicurezza.
Informazioni sul punto di controllo Check Point Software Technologies GmbH (www.checkpoint.com/de) è un fornitore leader di soluzioni di sicurezza informatica per pubbliche amministrazioni e aziende in tutto il mondo. Le soluzioni proteggono i clienti dagli attacchi informatici con un tasso di rilevamento leader del settore di malware, ransomware e altri tipi di attacchi. Check Point offre un'architettura di sicurezza a più livelli che protegge le informazioni aziendali su cloud, rete e dispositivi mobili e il sistema di gestione della sicurezza "un punto di controllo" più completo e intuitivo. Check Point protegge oltre 100.000 aziende di tutte le dimensioni.