Há muito hype sobre o uso de inteligência artificial (IA) na segurança cibernética. A verdade é que o papel e o potencial da IA na segurança ainda está evoluindo e ainda há muito a ser explorado e avaliado. um comentário de Chester Wisniewski, principal cientista de pesquisa da Sophos.
Para desenvolver ainda mais a IA o mais rápido possível e poder usá-la de maneira ainda mais eficiente em segurança, o intercâmbio abrangente entre pesquisadores e especialistas em IA é particularmente importante. Por esse motivo, a Sophos AI está comprometida em compartilhar abertamente seus resultados de pesquisa com a comunidade de segurança, a fim de tornar o uso da IA mais transparente e contribuir ativamente para a discussão e o posicionamento da IA na segurança cibernética. Um dos tópicos mais importantes no desenvolvimento da IA na segurança cibernética são os diferentes modelos e métodos de como a IA aprende com dados antigos e novos.
"Esquecimento catastrófico" como um modelo de detecção de IA
A detecção de malware é a base da segurança de TI, e a IA é a única abordagem que pode aprender padrões de milhões de novas amostras de malware em questão de dias. No entanto, ao usar a IA para detecção de malware, surgem duas questões: o modelo deve manter todas as amostras de malware para sempre para permitir a detecção ideal - embora às custas da velocidade de aprendizado e atualização? Ou deve realizar um ajuste fino seletivo que permita ao modelo acompanhar melhor a taxa de mudança do malware, correndo o risco de esquecer os padrões mais antigos? Este último é conhecido como "esquecimento catastrófico". Hoje, a reciclagem de um modelo leva cerca de uma semana. Demora cerca de uma hora para atualizar um bom modelo de torneamento fino.
A equipe de IA da Sophos queria ver se era possível projetar um modelo de ajuste fino que pudesse acompanhar o cenário de ameaças em rápida evolução, aprendendo novos padrões enquanto ainda lembrava amostras mais antigas, com impacto mínimo no desempenho. A pesquisadora Hillary Sanders assumiu essa tarefa e avaliou várias opções de atualização, que ela descreve em detalhes no Sophos AI Blog.
O dilema do reconhecimento
Manter a detecção de malware atualizada não é uma tarefa fácil. A cada passo que você dá para se defender de um ataque, seus oponentes respondem com novas ideias para evitá-lo. Eles desenvolvem atualizações usando códigos ou técnicas diferentes. Como resultado, centenas de milhares de novas amostras de malware surgem todos os dias.
Tornar a detecção ainda mais difícil é o fato de que o malware mais recente e eficaz raramente é totalmente “novo”. Muitas vezes, é uma combinação de código novo, antigo, compartilhado, emprestado ou roubado, bem como comportamentos adotados e adaptados. Além disso, malwares antigos reaparecem anos depois e são integrados a novos métodos de ataque para surpreender as defesas. Portanto, os modelos de detecção devem garantir que também detectem amostras de malware mais antigas, e não apenas as mais recentes.
Atualizando modelos de detecção de IA
Quando se trata de atualizar modelos de detecção de IA com novas amostras de malware, os fornecedores têm duas opções.
Option1: Manter cada amostra e treinar novamente o modelo com quantidades cada vez maiores de dados. Isso leva a um melhor desempenho geral, mas também a atualizações mais lentas e menos lançamentos.
Opção 2: O modelo de detecção só é atualizado com novas amostras. Isso é chamado de ajuste fino. A cada etapa do processo de ajuste fino, o modelo é atualizado com o conhecimento recém-adicionado e com o impacto em todos os padrões disponíveis. Como resultado, o modelo pode “esquecer” (“esquecimento catastrófico”) os velhos padrões que aprendeu anteriormente. O benefício: treinar um modelo com menos dados significa que ele pode ser atualizado e implantado mais rapidamente para acompanhar melhor o malware que muda rapidamente.
Treinamento contínuo dos modelos de reconhecimento de IA
Independentemente das duas opções mencionadas, o treinamento contínuo dos modelos de reconhecimento de IA com novas amostras é crucial. Porque os padrões que uma IA aprende a partir de amostras de malware não permitem apenas a detecção em relação ao que foi treinado diretamente. A IA também reconhece amostras previamente desconhecidas que mostram pelo menos uma certa semelhança com os dados de treinamento. No entanto, com o tempo, novas amostras se desviam o suficiente para tornar um modelo antigo menos eficaz e exigir atualização.
O gráfico mostra como o desempenho do reconhecimento diminui ao longo do tempo quando os modelos não são atualizados (Imagem: Sophos).
O lado esquerdo do gráfico (ao lado da linha tracejada) mostra o modelo na linha do tempo com as amostras treinadas mais antigas. Aqui a taxa de reconhecimento é constantemente alta. Novas amostras são adicionadas no lado direito para as quais o modelo ainda não foi treinado, resultando em uma taxa de reconhecimento menor.
Três opções para atualizar a detecção de malware
As três opções para atualizar a detecção de malware avaliadas por Hillary Sanders são:
1. Aprenda com uma seleção de amostras antigas e novas
Isso é chamado de "ensaio de dados" e envolve uma pequena amostra de amostras antigas sendo misturadas com os novos dados de treinamento nunca antes vistos. Dessa forma, o modelo é “lembrado” das informações antigas de que precisa para reconhecer os padrões mais antigos, ao mesmo tempo em que aprende a reconhecer os mais novos.
2. Ajustando a velocidade de aprendizagem
Com essa abordagem, a taxa de aprendizado do modelo é ajustada. Isso é feito definindo o quanto o modelo pode mudar depois de ver uma amostra específica. Se a taxa de aprendizado for muito rápida (caso em que o modelo pode mudar muito a cada amostra adicionada), ele só lembra as amostras mais recentes. Se a taxa de aprendizado for muito lenta (o modelo pode mudar apenas ligeiramente com cada amostra adicionada), levará muito tempo para aprender. A dificuldade é encontrar o compromisso perfeito entre taxa de aprendizado, retenção de informações antigas e adição de novas informações.
3. Consolidação de Peso Elástico (EWC)
No gráfico, todas as três abordagens funcionam melhor em amostras de malware mais antigas (à esquerda da linha tracejada) do que em amostras mais recentes - à direita da linha tracejada (Imagem: Sophos).
Essa abordagem foi inspirada no trabalho do DeepMind do Google em 2017. Como uma mola elástica, ele puxa um novo modelo de volta para um antigo caso comece a “esquecer”. Hillary Sanders tem uma descrição mais detalhada desse princípio Blog da SophosAI publicado.
Conforme mostrado no gráfico, todas as três abordagens funcionam melhor em amostras de malware mais antigas (à esquerda da linha tracejada) do que em amostras mais recentes (à direita da linha tracejada).
Conclusão
Aprender com uma seleção de amostras antigas e novas (ensaio de dados) é o melhor compromisso
Na detecção de malware, a capacidade de lembrar o passado é quase tão importante quanto a capacidade de prever o futuro. No entanto, isso deve ser ponderado em relação ao custo e à velocidade de atualização do modelo com novas informações. O ensaio de dados é uma maneira simples e eficaz de manter a detecção de malware antigo, aumentando significativamente a velocidade com que você pode atualizar e lançar novos modelos.
Saiba mais em Sophos.com
Sobre a Sophos A Sophos tem a confiança de mais de 100 milhões de usuários em 150 países. Oferecemos a melhor proteção contra ameaças complexas de TI e perda de dados. Nossas soluções de segurança abrangentes são fáceis de implantar, usar e gerenciar. Eles oferecem o menor custo total de propriedade do setor. A Sophos oferece soluções de criptografia premiadas, soluções de segurança para endpoints, redes, dispositivos móveis, e-mail e web. Também há suporte da SophosLabs, nossa rede global de centros de análise proprietários. A sede da Sophos fica em Boston, EUA e Oxford, Reino Unido.