Os pesquisadores de segurança foram capazes de usar o AI Bard generativo do Google para gerar e-mails de phishing, keyloggers de malware e códigos simples de ransomware.
A revolução da IA generativa provocou uma mudança de paradigma no campo da inteligência artificial, permitindo que as máquinas criem e gerem conteúdo com notável sofisticação. IA generativa refere-se ao subconjunto de modelos e algoritmos de IA capazes de gerar autonomamente texto, imagens, música e até vídeos que imitam criações humanas. Essa tecnologia inovadora abriu uma infinidade de possibilidades criativas, desde a capacitação de artistas e designers até o aumento da produtividade em todos os setores. No entanto, a proliferação da IA generativa também levantou preocupações significativas e considerações éticas. Uma das principais preocupações gira em torno do possível uso indevido dessa tecnologia para fins maliciosos, como B. Crime cibernético.
Finalidades Maliciosas
Em relatórios anteriores, a Check Point Research detalhou como os cibercriminosos estão explorando a tecnologia revolucionária para fins maliciosos, especificamente para criar código e conteúdo malicioso por meio da plataforma de IA generativa da OpenAI, ChatGPT. Neste relatório, os pesquisadores voltaram sua atenção para a plataforma de inteligência artificial "Bard" do Google. Partindo desse pensamento e seguindo análises anteriores, os pesquisadores de segurança analisaram a plataforma com dois objetivos principais: Verificar se é possível usar o Bard para fins maliciosos (por exemplo, criação de e-mails de phishing / malware / ransomware) e na segunda etapa comparar o Google Bard com ChatGPT em termos de criação de conteúdo malicioso.
O que o Bardo pode gerar
- E-mails de phishing
- Keylogger de malware (uma ferramenta de monitoramento que monitora e registra todas as teclas digitadas em um computador)
- Código simples de ransomware
Primeiro, a CPR tentou a solicitação mais simples para criar um e-mail de phishing, que foi rejeitado pelo ChatGPT e pela Bard. A CPR tentou novamente, pedindo um exemplo de e-mail de phishing e, embora o ChatGPT negasse a solicitação, Bard entregou um e-mail de phishing bem escrito, se passando por uma empresa de serviços financeiros. Depois de mais tentativas e com uma justificativa para o pedido, ambos os bots AI finalmente entregaram um keylogger que registrou "meus" pressionamentos de tecla (pesquisador x usuário), com a diferença de que o ChatGPT adicionou algum tipo de isenção de responsabilidade sobre uso malicioso.
Segunda tentativa
Uma segunda tentativa mostrou que Bard também cria códigos simples de ransomware de forma indireta. Depois que uma primeira solicitação simples falhou, os pesquisadores perguntaram a Bard sobre as ações mais comuns executadas pelo ransomware. A CPR recebeu uma lista com marcadores de como o ransomware funciona e a transformou em solicitações de script com uma simples operação de copiar e colar. Isso funcionou: CPR recebeu o código especificando os requisitos para o script. Depois que os pesquisadores modificaram um pouco o script com a ajuda de Bard e adicionaram algumas funções e exceções adicionais, eles obtiveram um script de ransomware funcional.
resumo
1. As proteções contra abuso de segurança cibernética da Bard são significativamente mais fracas em comparação com as do ChatGPT. Como resultado, é muito mais fácil gerar conteúdo malicioso usando os recursos do Bard.
2. A Bard quase não contém restrições à criação de e-mails de phishing, deixando espaço para potencial uso indevido e exploração dessa tecnologia.
3. Com manipulações mínimas, o Bard pode ser usado para desenvolver keyloggers de malware, o que representa um risco de segurança.
4. Os experimentos do CPR mostraram que é possível criar um ransomware simples usando os recursos do Bard.
No geral, parece que Bard do Google ainda não aprendeu totalmente com as lições que o ChatGPT demonstrou na implementação de restrições antiabuso em espaços cibernéticos. As restrições existentes no Bard são relativamente simples e semelhantes ao que o CPR observou no ChatGPT em seus estágios iniciais, alguns meses atrás. Espera-se que estes sejam apenas os primeiros passos de um longo caminho e que a plataforma implemente em breve as necessárias restrições e limites de segurança.
Sobre o ponto de verificação A Check Point Software Technologies GmbH (www.checkpoint.com/de) é um fornecedor líder de soluções de segurança cibernética para administrações públicas e empresas em todo o mundo. As soluções protegem os clientes contra ataques cibernéticos com uma taxa de detecção líder do setor de malware, ransomware e outros tipos de ataques. A Check Point oferece uma arquitetura de segurança multicamada que protege as informações corporativas em nuvem, rede e dispositivos móveis, e o sistema de gerenciamento de segurança "um ponto de controle" mais abrangente e intuitivo. A Check Point protege mais de 100.000 empresas de todos os portes.