La corsa all'uso di ChatGPT per il crimine informatico ha visto un aumento di sette volte nei forum del dark web in cui gli hacker discutono su come manipolare il chatbot. Questo è secondo un nuovo studio della società di sicurezza informatica NordVPN.
Secondo la ricerca, il numero di nuovi post sui forum del dark web sullo strumento AI è passato da 120 a gennaio a 870 a febbraio, con un aumento del 625%. I post del forum relativi a ChatGPT sono aumentati del 145% da 37 a 91 in un mese, poiché le discussioni sull'abuso del bot sono diventate l'argomento più scottante del dark web.
ChatGPT è progettato per produrre malware e script
All'inizio di gennaio, molti thread si sono concentrati su come gli attori malintenzionati potrebbero indurre ChatGPT a produrre un semplice malware, una vulnerabilità che da allora è stata risolta. Un mese dopo, la tendenza nella comunità degli hacker era verso misure più aggressive. I post delineano i piani per prendere il controllo del chatbot e usarlo per provocare il caos. I titoli dei forum del Dark Web (che sono nascosti ai normali motori di ricerca e visitati da hacker anonimi in tutto il mondo) includevano “Come violare ChatGPT”, “ChatGPT jailbreak 2.0, ChatGPT – progressione del malware” e “ChatGPT come strumento di phishing”.
Con ChatGPT, i criminali potrebbero utilizzare la sua intelligenza artificiale per fermare le truffe, come ad es. B. Love Scams – da realizzare su scala industriale e per attaccare più vittime contemporaneamente. Una volta che un hacker ha rilevato il chatbot, può rimuovere le sue restrizioni di sicurezza e utilizzarlo per creare malware e e-mail di phishing, diffondere discorsi di odio o persino propaganda.
Molti nuovi modi con ChatGPT
“ChatGPT ha aperto molte porte a nuovi mondi e sta trasformando il mondo del lavoro, dell'istruzione e il modo in cui utilizziamo le informazioni. Come ogni nuova tecnologia, può essere sfruttata per usi positivi, come il rilevamento di vulnerabilità negli smart contract.
Allo stesso tempo, i pericoli per gli utenti non sono trascurabili. Ciò è dimostrato anche dall'indagine di NordVPN sull'aumento dei post nei forum sul dark web. Ciò consente ai criminali di utilizzare il rilevamento delle vulnerabilità basato sull'intelligenza artificiale per scopi dannosi. Ciò include anche l'uso improprio di trovare e riassumere rapidamente informazioni personali al fine di attaccare aziende e persone in modo più mirato. Ancora più pericoloso è aggirare i controlli di sicurezza e i filtri in ChatGPT e altri fornitori di intelligenza artificiale per indurre il programma a fare dichiarazioni razziste o odiose", ha affermato Marvin Petzolt, esperto di sicurezza informatica presso Nord Security.
Altro su Nordsecurity.com
Informazioni sulla Sicurezza del Nord
Fondata nel 2012, Nord Security ospita soluzioni di sicurezza avanzate che portano il marchio Nord. Costruiamo robusti strumenti di sicurezza informatica per uso personale e aziendale, incluso il servizio VPN più veloce al mondo, NordVPN.