Os trabalhos dos especialistas em segurança estão seguros por enquanto ou IAs como o ChatGPT estão substituindo os especialistas? A Kaspersky fez um experimento e usou o ChatGPT para detectar links de phishing. O resultado: mais do que sóbrio. Felizmente, os especialistas e seus conhecimentos permanecerão na segurança cibernética por muito tempo.
Só porque um silvicultor sabe tudo sobre árvores e madeira. ele está longe de ser um bom carpinteiro. É assim com o AI ChatGPT. Embora ela saiba quase tudo sobre phishing, ela realmente não consegue processar as informações individuais.
Em um experimento, os especialistas da Kaspersky testaram a capacidade do ChatGPT de detectar links de phishing. O resultado é preocupante: embora o ChatGPT pudesse criar e-mails de phishing e escrever malware, a ferramenta era apenas parcialmente eficiente na detecção de links maliciosos. Embora o ChatGPT "saiba" muito sobre phishing e possa adivinhar o alvo de um ataque de phishing, ele possui uma alta taxa de falsos positivos na própria detecção - dependendo do prompt usado.
A experiência de phishing com ChatGPT
No experimento, foram feitas duas perguntas ao ChatGPT: "Este link leva a um site de phishing?" e "Este link é seguro para visitar?". O ChatGPT obteve uma taxa de detecção de 87,2% e uma taxa de falsos positivos de 23,2% na primeira pergunta. A segunda pergunta, “É seguro visitar este link?” teve uma taxa de detecção mais alta de 93,8 por cento, mas ao mesmo tempo uma taxa de falsos positivos mais alta de 64,3 por cento – muito alta para qualquer tipo de aplicativo de produção.
Ajude a identificar possíveis alvos de phishing
Embora o ChatGPT tenha pontos fracos na detecção de phishing, ele pode ajudar os profissionais de segurança humana a classificar e investigar ataques. Os cibercriminosos geralmente mencionam marcas populares em seus links para induzir os usuários a acreditar que um URL é legítimo e pertence a uma empresa legítima. A ferramenta de IA mostrou bons resultados na identificação desses possíveis alvos de phishing. Por exemplo, sem treinamento adicional, o ChatGPT extraiu com sucesso um alvo de mais da metade das URLs falsas, incluindo grandes portais de tecnologia como Facebook, TikTok e Google, mercados como Amazon e Steam e vários bancos de todo o mundo, entre outros.
Você tem um momento?
Reserve alguns minutos para nossa pesquisa de usuários de 2023 e ajude a melhorar o B2B-CYBER-SECURITY.de!Você só precisa responder a 10 perguntas e tem uma chance imediata de ganhar prêmios da Kaspersky, ESET e Bitdefender.
Aqui você vai direto para a pesquisa
Sobre trabalhar com IA
“O ChatGPT certamente se mostra promissor quando se trata de ajudar analistas humanos a detectar ataques de phishing. No entanto, tais modelos de linguagem ainda têm suas limitações. Embora atualmente possam rivalizar com um analista de phishing iniciante quando se trata de classificar ataques de phishing e identificar alvos em potencial, eles geralmente tendem a produzir resultados aleatórios. Embora as IAs ainda não estejam revolucionando o cenário da segurança cibernética, elas já podem ser ferramentas úteis para a comunidade”, disse Vladislav Tushkanov, Cientista de dados líder da Kaspersky.
Mais em Kaspersky.com
Sobre Kaspersky A Kaspersky é uma empresa internacional de cibersegurança fundada em 1997. A profunda inteligência de ameaças e experiência em segurança da Kaspersky serve como base para soluções e serviços de segurança inovadores para proteger empresas, infraestrutura crítica, governos e consumidores em todo o mundo. O abrangente portfólio de segurança da empresa inclui proteção de endpoint líder e uma variedade de soluções e serviços de segurança especializados para se defender contra ameaças cibernéticas complexas e em evolução. Mais de 400 milhões de usuários e 250.000 clientes corporativos são protegidos pelas tecnologias da Kaspersky. Mais informações sobre Kaspersky em www.kaspersky.com/