O desenvolvimento adicional de redes neurais, IA e aprendizado de máquina está se tornando uma verdadeira "virada de jogo". O chatbot ChatGPT está deixando isso mais do que claro. A Sophos AI usa a avançada tecnologia GPT para realizar aplicativos de segurança ainda melhores.
À medida que a escala aumenta, as redes neurais ficam cada vez melhores. A base do programa é o modelo de processamento de linguagem GPT-3.5, que também vem do OpenAI. Em escala de supercomputação e em conjunto com aprendizado de máquina, a Sophos AI usa essa tecnologia avançada para realizar aplicativos de segurança ainda melhores. Porque especialmente na área de segurança cibernética, destaca-se o enorme desempenho em contraste com os modelos anteriores menores. Isso fica claro por várias séries de testes bem-sucedidos que os especialistas da Sophos fizeram com o GPT-3 no ano passado.
O GPT-3 oferece um enorme potencial para segurança de TI
O GPT-3 é um modelo de linguagem de larga escala pré-treinado que é inovador em sua flexibilidade e precisão. E é exatamente aqui que a criatividade humana da Sophos AI é necessária, ou seja, onde e como essa tecnologia pode ser usada na luta contra o cibercrime. Como os dados de entrada e saída podem ser convertidos em texto, os usos do GPT-3 também são infinitos nessa área. Por exemplo, você pode pedir ao GPT-3 para escrever um código Python funcional a partir de uma descrição de função ou criar um aplicativo de classificação com apenas alguns exemplos.
Sophos AI - deseja usar o potencial GPT-3
Os especialistas em IA da Sophos veem um enorme potencial no GPT-3. Por exemplo, localizar um registro não marcado é relativamente fácil; no entanto, criar um conjunto de dados marcados para treinar um modelo de aprendizado de máquina tradicional costuma ser muito demorado e difícil. Os modelos tradicionais de aprendizado de máquina que são treinados com poucos exemplos geralmente apresentam problemas de superajuste. Em outras palavras, eles não generalizam bem para exemplos anteriormente inexistentes. Com o GPT-3 "Few-Shot Learning", no entanto, o Sophos AI requer apenas alguns exemplos de treinamento anotados e, portanto, supera os modelos convencionais. Como o GPT-3 foi automonitorado e treinado extensivamente, demonstrou ter um bom desempenho em vários problemas de classificação com apenas alguns exemplos.
Dois exemplos para a aplicação concreta
detecção de spam
🔎 Solicitar uma tarefa de classificação de spam (Imagem: Sophos).
É um desafio treinar um poderoso modelo de classificação de spam com apenas quatro amostras não críticas e quatro de spam. Os modelos de classificação tradicionais geralmente exigem um grande conjunto de dados de treinamento para aprender sinais suficientes. No entanto, como o GPT-3 é um modelo de linguagem treinado em um grande conjunto de dados de texto, ele pode reconhecer a intenção de uma tarefa de classificação e resolver a tarefa com alguns exemplos.
Ao aprender com alguns exemplos, uma etapa importante é a engenharia imediata, que envolve projetar o formato dos dados de entrada para tarefas de conclusão de texto. A imagem mostra essa tarefa de classificação de spam.
O prompt inclui uma instrução e alguns exemplos com seus rótulos como um conjunto de suporte, e um exemplo de consulta está anexado na última seção. O GPT-3 é então solicitado a gerar uma resposta como uma previsão de rótulo a partir da entrada.
Comparando os resultados da classificação entre modelos tradicionais de ML e "aprendizagem de poucos tiros" com GPT-3, é fácil ver que ele supera claramente os modelos tradicionais de ML, como regressão logística e "floresta aleatória". Isso ocorre porque o aprendizado de poucos tiros pega as informações de contexto dos exemplos fornecidos e escolhe o rótulo do exemplo mais semelhante como saída. Como resultado, o GPT-3 não requer retreinamento, mas permite que um modelo de classificação poderoso seja construído com engenharia simples e rápida.
Explicações legíveis para códigos difíceis de decifrar
As linhas de comando de engenharia reversa são uma tarefa difícil e demorada, mesmo para especialistas em segurança. É ainda mais difícil entender os comandos "viver fora da terra" porque eles são longos e contêm strings difíceis de analisar. Os invasores usam aplicativos e processos padrão nos computadores de suas vítimas para camuflar atividades de phishing, por exemplo. O GPT-3 pode traduzir uma linha de comando em uma descrição compreensível - por exemplo, escrever um código Python ou Java funcional a partir de uma determinada descrição do código. Também é possível pedir ao GPT-3 para gerar várias descrições a partir de uma linha de comando, e as descrições de saída serão tokenizadas com probabilidades em nível de palavra para selecionar o melhor candidato. A abordagem da Sophos AI para selecionar a melhor descrição de várias variantes é usar um método de tradução reversa que seleciona a descrição que pode produzir a linha de comando mais semelhante à linha de comando de entrada.
GPT-3: marco de segurança cibernética
"GPT-3 é um marco de segurança cibernética porque pode detectar spam e analisar linhas de comando complexas com poucos exemplos", dizem os especialistas da equipe Sophos AI. “A flexibilidade do GPT-3 é muito adequada para combater ameaças cibernéticas em constante evolução. Assumimos que os problemas ainda mais difíceis de segurança cibernética podem em breve ser resolvidos com modelos de rede neural correspondentemente maiores”.
Mais em Sophos.com
Sobre a Sophos A Sophos tem a confiança de mais de 100 milhões de usuários em 150 países. Oferecemos a melhor proteção contra ameaças complexas de TI e perda de dados. Nossas soluções de segurança abrangentes são fáceis de implantar, usar e gerenciar. Eles oferecem o menor custo total de propriedade do setor. A Sophos oferece soluções de criptografia premiadas, soluções de segurança para endpoints, redes, dispositivos móveis, e-mail e web. Também há suporte da SophosLabs, nossa rede global de centros de análise proprietários. A sede da Sophos fica em Boston, EUA e Oxford, Reino Unido.