O software ChatGPT da Open AI está fazendo sucesso. Com a ajuda da IA, o chatbot responde a uma ampla variedade de perguntas com muita eloquência. Portanto, não é de surpreender que, como sempre acontece com as novas tecnologias, os criminosos já estejam pensando em como usar esses recursos para seus próprios fins.
Um estudo conjunto da Europol, Unicri e Trend Micro investigou isso. De acordo com esses resultados, ferramentas de engenharia social ainda melhores, como phishing ou BEC, podem ser consideradas para o software Open AI. Atualmente, outros pesquisadores de segurança também examinaram e-mails fraudulentos gerados com a AI atualmente sensacionalista e receberam resultados ameaçadores. Além disso, os criminosos já parecem estar discutindo maneiras de trazer o ChatGPT para a dark web em fóruns clandestinos.
O papel do ChatGPT
É claro que o ChatGPT não desempenha o papel da lendária "Caixa de Pandora" agora aberta, mas apenas representa a primeira etapa de um desenvolvimento previsível que, mais cedo ou mais tarde, levará ao uso da IA no cibercrime. Para os fabricantes de Open AI, o lançamento pode ser o ápice preliminar de um longo desenvolvimento, mas para TI, a jornada está apenas começando. O ChatGPT mostra novas possibilidades e inspirará vários outros a fazerem o mesmo. A tecnologia subjacente estará disponível para o público em geral e usada de forma econômica e sensata como um componente de soluções maiores. Um desenvolvimento comum e também positivo para TI. O reverso da moeda é que os criminosos também poderão acessá-la e usar a tecnologia com eficiência.
E-mails de phishing/ataque
Os e-mails de phishing fazem parte do programa padrão para a maioria dos tipos de ataque, a fim de criar um ponto de partida inicial para outras atividades criminosas. E isso muitas vezes não é tão fácil. É por isso que também existe um setor de serviços separado no submundo digital, que oferece o chamado "Acesso como serviço" com boa qualidade - uma questão de preço, nada mais. O problema para os criminosos é que tanto a tecnologia quanto a intuição humana são capazes de interceptar ataques, e é por isso que eles são lançados em massa (bilhões) ou, com grande custo, com interação humana.
A IA para aumentar a eficácia parece muito tentadora para esse grupo de perpetradores. O estado da arte atual com o ChatGPT pode ajudar a formular e-mails com mais credibilidade. Eliminam-se os erros de expressão e ortografia frequentemente mencionados em cursos de formação em segurança, podendo ser gerados novos conteúdos mais rapidamente para que os emails pareçam "mais atractivos".
E-mails sem erros enganam os usuários com mais facilidade
Mas e-mails de phishing "melhores" não são as preocupações dos pesquisadores de segurança ao considerar o uso de IA no Access-as-a-Service. Em vez disso, teme-se que seja possível criar uma IA de tal forma que seja capaz de conduzir uma comunicação interessante com a vítima e, assim, reduzir o enorme esforço atualmente envolvido em ataques direcionados. Se isso for bem-sucedido, futuros e-mails de phishing não poderão mais ser distinguidos da comunicação comercial real.
As vítimas são então confrontadas com ataques pessoais, nos quais se integram conhecimentos disponíveis através das redes sociais, por exemplo. A variante de ataque Emotet já demonstrou os efeitos que isso pode ter ao escrever seu e-mail de ataque como resposta a um e-mail enviado anteriormente pela vítima, felizmente sem suporte de IA - com conteúdo gerado genericamente. O phishing com dinamite, como esse método é conhecido, já provou ser extremamente eficaz.
Golpes – Comprometimento de e-mail comercial (BEC)
Os progressos alcançados pela IA nos últimos anos podem ser observados principalmente no que diz respeito à linguagem e à comunicação interpessoal. O que também é especial sobre o ChatGPT é que o software não apenas usa o que já existe, mas também gera conteúdo novo e interessante para as pessoas. Isso sugere que ele é usado por cibercriminosos nessa área. Existe comunicação interpessoal em todas as variantes de golpes.
No setor corporativo, por exemplo, esse é o método Business E-Mail Compromise (BEC), no qual um funcionário é levado a acreditar que está se comunicando com seu chefe ou um cliente importante. E também há uma grande variedade de variantes na esfera privada, como vários golpes de romance ou o notório “Príncipe da Nigéria”. Em suma, a vítima é persuadida em comunicação direta, muitas vezes demorada, a acabar transferindo dinheiro impensadamente para o perpetrador. Com as possibilidades atuais do ChatGPT, os e-mails devem ser otimizados culturalmente, por exemplo com poesia.
barreiras de linguagem? Não há problema para a IA
No entanto, aqui também é mais o estágio de expansão adicional que causa preocupação. A primeira coisa que provavelmente cairá são as barreiras linguísticas. A IA já está disponível em alemão hoje. As opções de tradução anteriores podem germanizar palavras ou frases, mas apenas branquear mal o histórico cultural de uma pessoa. Uma IA pode fazer isso. Já existem técnicas relacionadas no campo de deep fakes que permitem que os rostos das pessoas sejam trocados em tempo real, dificultando a identificação por vídeo.
Além disso, existem muitos esquemas fraudulentos comprovados. Uma IA pode, portanto, ser facilmente treinada com casos de sucesso e aprender a melhor forma de convencer as pessoas. Os perpetradores podem não apenas aumentar sua eficiência, mas também o número de vítimas que atacam em paralelo. Mas uma IA especializada em fraude pode levar a cenários de aplicação completamente diferentes que ainda não podemos avaliar.
Criação de malware por IA
Richard Werner, consultor de negócios da Trend Micro (Imagem: Trend Micro)
O ChatGPT também pode desenvolver e depurar software/código. Portanto, existe a possibilidade teórica de também gerar malware. Isso já foi comprovado em testes de prova de conceito. Embora os desenvolvedores de Open AI ajustem regularmente suas políticas para evitar isso, sempre há exemplos de como isso funciona.
Ainda existem obstáculos: o código criado funciona, mas requer uma descrição precisa por parte do solicitante. Também está sendo discutido que o código gerado pela IA ainda não é convincente, especialmente no desenvolvimento de software. Portanto, é provável que o ChatGPT seja relativamente pouco útil para determinados cibercriminosos atualmente. No entanto, a fase de expansão também é previsível aqui.
É claro que, mais cedo ou mais tarde, o software de ataque será escrito pela IA. Por exemplo, isso reduz o tempo entre a descoberta de uma vulnerabilidade, sua correção e um ataque cibernético a apenas alguns minutos - mesmo para criminosos que não são tecnicamente talentosos. Mas todos esses são desafios conhecidos para os quais existem soluções no campo da segurança. A indústria já enfrenta mais de 300.000 novos arquivos maliciosos por dia. Estamos falando de zero dias e algumas horas, e a IA há muito assumiu o trabalho para nós também, principalmente para identificar incógnitas no tipo de procedimento.
Conclusão: O ChatGPT está mudando o futuro da segurança de TI?
O ChatGPT não iniciou esse desenvolvimento, mas apenas demonstrou ao público o que há muito é discutido nos círculos científicos. Pode-se supor que o uso de IA desempenhará um papel, especialmente na infecção inicial. Aqui, o Access-as-a-Service compete por clientes, e a IA pode minimizar esforços enormes ou melhorar o sucesso de ataques em massa. Como resultado, as empresas devem presumir que os invasores poderão burlar seus mecanismos de defesa primários ainda mais do que antes.
Mais em TrendMicro.com
Sobre a Trend Micro Como um dos principais fornecedores mundiais de segurança de TI, a Trend Micro ajuda a criar um mundo seguro para a troca de dados digitais. Com mais de 30 anos de experiência em segurança, pesquisa de ameaças globais e inovação constante, a Trend Micro oferece proteção para empresas, agências governamentais e consumidores. Graças à nossa estratégia de segurança XGen™, nossas soluções se beneficiam de uma combinação entre gerações de técnicas de defesa otimizadas para ambientes de ponta. As informações sobre ameaças em rede permitem uma proteção melhor e mais rápida. Otimizadas para cargas de trabalho em nuvem, endpoints, e-mail, IIoT e redes, nossas soluções conectadas fornecem visibilidade centralizada em toda a empresa para detecção e resposta mais rápidas a ameaças.