Dois relatórios de pesquisa mostram o uso atual da IA para ataques e, por outro lado, a atitude dos criminosos cibernéticos em relação à inteligência artificial é analisada através do exame de fóruns da dark web. A surpresa: nem todo criminoso está convencido dos benefícios da IA.
A Sophos publicou hoje dois relatórios sobre o uso de IA no crime cibernético. O relatório “O lado negro da IA: campanhas fraudulentas em grande escala tornadas possíveis pela IA generativa” utiliza um estudo de caso específico para examinar como os fraudadores poderiam usar tecnologias como o ChatGPT no futuro para realizar ataques fraudulentos em grande escala com habilidades técnicas mínimas. O segundo relatório “Os cibercriminosos não conseguem chegar a acordo sobre as GPTs” apresenta a investigação de vários fóruns da dark web. Os resultados mostram que alguns cibercriminosos estão céticos quanto ao uso atual de chatbots e outras tecnologias de IA, apesar do potencial da nova tecnologia.
“Encontramos inúmeras postagens na Dark Web sobre os potenciais impactos negativos da IA na sociedade e as implicações éticas de seu uso. Em outras palavras, pelo menos por enquanto, parece que os cibercriminosos estão tendo os mesmos debates sobre inteligência artificial que todos nós”, disse Christopher Budd, diretor de pesquisa X-Ops da Sophos.
IA: O lado negro da inteligência artificial
Usando um modelo simples de comércio eletrônico e excelentes ferramentas de modelo de linguagem como GPT-4, o Sophos X-Ops foi capaz de criar um site totalmente funcional com imagens geradas por IA, áudio e descrições de produtos, bem como uma página de login falsa no Facebook e um checkout falso página, para coletar informações pessoais de login e cartão de crédito. Foi necessário conhecimento técnico mínimo para criar e operar o site. A mesma ferramenta também possibilitou a criação de centenas de sites semelhantes em minutos, com apenas o clique de um botão.
“É natural e esperado que os criminosos utilizem novas tecnologias para automatizar as suas operações, a fim de serem tão eficazes quanto possível”, disse Ben Gelman, cientista de dados sénior da Sophos. “A criação original de e-mails de spam foi um passo crucial na história da fraude, pois mudou significativamente a escala do campo de atuação criminal. O atual desenvolvimento da inteligência artificial tem um potencial semelhante: assim que houver uma tecnologia de IA que possa gerar ameaças completas e automatizadas, ela será utilizada. A integração atualmente observada de elementos generativos de IA em fraudes clássicas, por exemplo, através de textos ou fotos gerados por IA para atrair vítimas, é apenas o começo.”
Quanto às intenções do atual projeto de pesquisa, Gelman afirma: “Uma das razões pelas quais estamos conduzindo o atual projeto é para estarmos um passo à frente dos criminosos. Ao criar um sistema para a criação de sites fraudulentos em escala mais avançada do que as ferramentas que os criminosos usam atualmente, temos uma capacidade única de analisar e nos preparar para a ameaça antes que ela se espalhe.”
Os cibercriminosos questionam o potencial dos GPTs & Co
Na segunda parte de sua ofensiva de pesquisa em IA, a Sophos Embora a utilização da IA pelos cibercriminosos pareça estar numa fase inicial, os agentes de ameaças nestas plataformas já estão a discutir intensamente o potencial da engenharia social. Um exemplo disso é a atual onda de golpes românticos de “reserva de porcos”.
Além disso, a Sophos descobriu que a maioria das postagens dizia respeito a contas ChatGPT comprometidas para venda e “jailbreaks” – formas de contornar as proteções incorporadas aos LLMs, permitindo que os cibercriminosos abusassem das ferramentas para fins maliciosos. A equipe de pesquisa também encontrou dez aplicativos ChatGPT que os desenvolvedores alegaram que poderiam ser usados para ataques cibernéticos e desenvolvimento de malware. No entanto, a eficácia de tais ferramentas foi fortemente posta em dúvida por partes da comunidade dark web e às vezes até vista como uma tentativa de trapaça com programas inúteis.
Debates sobre inteligência artificial
“Embora tenhamos visto alguns cibercriminosos tentarem criar malware ou ferramentas de ataque usando LLMs, os resultados foram rudimentares e muitas vezes recebidos com ceticismo por parte de outros usuários. Encontrámos até inúmeras publicações sobre o potencial impacto negativo da IA na sociedade e as implicações éticas da sua utilização. Em outras palavras, pelo menos por enquanto, parece que os cibercriminosos estão tendo os mesmos debates sobre inteligência artificial que todos nós”, disse Christopher Budd, diretor de pesquisa X-Ops da Sophos.
Para obter mais informações sobre sites fraudulentos gerados por IA e as atitudes dos agentes de ameaças em relação aos LLMs, consulte os relatórios completos em inglês “O lado negro da IA: campanhas fraudulentas em grande escala tornadas possíveis pela IA generativa” e “Os cibercriminosos não conseguem chegar a acordo sobre as GPTs” de encontrar.
Mais em Sophos.com
Sobre a Sophos A Sophos tem a confiança de mais de 100 milhões de usuários em 150 países. Oferecemos a melhor proteção contra ameaças complexas de TI e perda de dados. Nossas soluções de segurança abrangentes são fáceis de implantar, usar e gerenciar. Eles oferecem o menor custo total de propriedade do setor. A Sophos oferece soluções de criptografia premiadas, soluções de segurança para endpoints, redes, dispositivos móveis, e-mail e web. Também há suporte da SophosLabs, nossa rede global de centros de análise proprietários. A sede da Sophos fica em Boston, EUA e Oxford, Reino Unido.