A luta para usar o ChatGPT para crimes cibernéticos aumentou sete vezes nos fóruns da dark web, onde hackers discutem como manipular o chatbot. Isso é de acordo com um novo estudo da empresa de segurança cibernética NordVPN.
De acordo com a pesquisa, o número de novas postagens em fóruns da dark web sobre a ferramenta de IA aumentou de 120 em janeiro para 870 em fevereiro — um aumento de 625%. As postagens do fórum relacionadas ao ChatGPT aumentaram 145%, de 37 para 91 em um mês, à medida que as discussões em torno do abuso do bot se tornaram o tópico mais quente da dark web.
ChatGPT é projetado para produzir malware e scripts
No início de janeiro, muitos tópicos se concentraram em como agentes mal-intencionados poderiam induzir o ChatGPT a produzir malware simples, uma vulnerabilidade que já foi corrigida. Um mês depois, a tendência na comunidade hacker era de medidas mais agressivas. As postagens descrevem planos para assumir o controle do chatbot e usá-lo para causar estragos. Os títulos de fóruns da Dark Web (que estão ocultos dos mecanismos de pesquisa normais e visitados por hackers anônimos em todo o mundo) incluem “Como quebrar o ChatGPT”, “ChatGPT jailbreak 2.0, ChatGPT – progressão de malware” e “ChatGPT como ferramentas de phishing”.
Com o ChatGPT, os criminosos podem usar sua inteligência artificial para impedir golpes – como, por ex. B. Love Scams – para ser executado em escala industrial e para atacar várias vítimas ao mesmo tempo. Depois que um hacker assume o controle do chatbot, ele pode remover suas restrições de segurança e usá-lo para criar malware e e-mails de phishing, espalhar discurso de ódio ou até mesmo espalhar propaganda.
Muitas novas maneiras com ChatGPT
“ChatGPT abriu muitas portas para novos mundos e está transformando o mundo do trabalho, educação e como usamos a informação. Como qualquer nova tecnologia, ela pode ser aproveitada para usos positivos, como a detecção de vulnerabilidades em contratos inteligentes.
Ao mesmo tempo, os perigos para os usuários não são insignificantes. Isso também é demonstrado pela investigação da NordVPN sobre o aumento de postagens em fóruns na dark web. Isso permite que os criminosos usem a detecção de vulnerabilidades com inteligência artificial para fins maliciosos. Isso também inclui o uso indevido de encontrar e resumir rapidamente informações pessoais para atacar empresas e pessoas de maneira mais direcionada. Ainda mais perigoso é contornar verificações e filtros de segurança no ChatGPT e outros provedores de IA para induzir o programa a fazer declarações racistas ou odiosas”, disse Marvin Petzolt, especialista em segurança cibernética da Nord Security.
Mais em Nordsecurity.com
Sobre a North Security
Fundada em 2012, a Nord Security abriga soluções avançadas de segurança que carregam a marca Nord. Construímos ferramentas robustas de segurança cibernética para uso pessoal e comercial, incluindo o serviço VPN mais rápido do mundo, NordVPN.