O modelo ChatGPT AI pode filtrar mais facilmente a atividade maliciosa na telemetria XDR, melhorar os filtros de spam e simplificar a análise de "Living Off the Land Binaries" - "LOLBins" para abreviar. A Sophos publicou isso recentemente em um novo relatório.
O tópico é o modelo de linguagem GPT-3, que está por trás da conhecida estrutura ChatGPT, e como o setor de segurança cibernética pode usar o modelo para se defender contra invasores. O relatório atual "GPT for You and Me: Applying AI Language Processing to Cyber Defenses" descreve projetos desenvolvidos pela Sophos X-Ops que usam os extensos modelos de linguagem do GPT-3. O objetivo é simplificar a busca de atividades maliciosas em registros de dados de software de segurança, filtrar spam com mais precisão e rapidez e analisar ataques binários (LOLBin) com mais rapidez.
Use AI para defesa também
“Desde que a OpenAI lançou o ChatGPT em novembro de 2022, o setor de segurança tem se concentrado amplamente nos riscos potenciais que essa nova tecnologia pode representar. A IA pode ajudar possíveis invasores a escrever malware ou cibercriminosos a criar e-mails de phishing mais atraentes? Talvez, mas na Sophos sempre vimos a IA como uma aliada, não uma inimiga, para defesa, tornando-a uma tecnologia fundamental para a Sophos, e o mesmo vale para o GPT-3. A indústria de segurança não deve apenas prestar atenção aos riscos potenciais da tecnologia, mas também às possíveis oportunidades”, disse Sean Gallagher, Pesquisador Principal de Ameaças da Sophos.
GPT-3 como assistente de segurança cibernética
Os pesquisadores da Sophos X-Ops estão trabalhando em três projetos protótipos que demonstram o potencial do GPT-3 como um assistente para os defensores da segurança cibernética. Todos os três projetos usam uma técnica chamada "aprendizagem de poucos tiros" para treinar o modelo de IA com apenas algumas amostras de dados, reduzindo a necessidade de coletar uma grande quantidade de dados pré-classificados.
O primeiro aplicativo que a Sophos testou usando o método de aprendizado de poucos disparos foi um Interface de consulta de linguagem natural para verificar atividades maliciosas na telemetria do software de segurança. Em particular, a Sophos validou o modelo com sua solução Endpoint Detection and Response. Com essa interface, os defensores podem filtrar a telemetria com comandos simples em inglês sem precisar entender SQL ou a estrutura subjacente de um banco de dados.
Novo filtro de spam com ChatGPT
🔎 O ChatGPT pode detectar spam com ainda mais precisão (Imagem: Sophos).
Em seguida, a Sophos testou um novo filtro de spam usando o ChatGPT e descobriu que o filtro com GPT-3 foi significativamente mais preciso em comparação com outros modelos de aprendizado de máquina para filtragem de spam. Finalmente, os pesquisadores da Sophos conseguiram criar um programa que facilita a engenharia reversa das linhas de comando do LOLBins. Essa engenharia reversa é notoriamente difícil, mas também crítica para entender o comportamento do LOLBin e prevenir esses tipos de ataques no futuro.
Os SOCs obtêm uma forte ajuda
“Uma das preocupações crescentes nos SOCs (Security Operation Centers) é o grande volume de 'ruído' que está chegando. Existem muitos alertas e detecções para classificar, e muitas organizações estão lutando com recursos limitados. Provamos que com o GPT-3 podemos simplificar certos processos trabalhosos e devolver um tempo valioso aos defensores. Já estamos trabalhando na integração de alguns dos protótipos acima em nossos produtos e disponibilizamos os resultados de nossos esforços em nosso GitHub para os interessados em testar o GPT-3 em seus próprios ambientes de análise. Acreditamos que o GPT-3 pode muito bem se tornar um co-piloto para profissionais de segurança no futuro”, disse Gallagher.
Mais em Sophos.com
Sobre a Sophos A Sophos tem a confiança de mais de 100 milhões de usuários em 150 países. Oferecemos a melhor proteção contra ameaças complexas de TI e perda de dados. Nossas soluções de segurança abrangentes são fáceis de implantar, usar e gerenciar. Eles oferecem o menor custo total de propriedade do setor. A Sophos oferece soluções de criptografia premiadas, soluções de segurança para endpoints, redes, dispositivos móveis, e-mail e web. Também há suporte da SophosLabs, nossa rede global de centros de análise proprietários. A sede da Sophos fica em Boston, EUA e Oxford, Reino Unido.