Nos últimos meses, o burburinho em torno da tecnologia AI cresceu rapidamente, em grande parte devido ao lançamento do ChatGPT. Isso traz consigo novos desafios de segurança.
O programa está sendo disponibilizado ao público gratuitamente e tem sido objeto de um debate público aparentemente interminável sobre suas implicações desde seu lançamento em novembro passado.
A tecnologia AI acaba por ser bastante inteligente. É uma espécie de evolução contemporânea do conceito de um mecanismo de pesquisa - os usuários podem digitar e, em instantes, obter uma resposta bem elaborada, precisa e aparentemente confiável de fontes em toda a web.
AI escreve e melhora programas maliciosos
No entanto, já existem relatos de usos perigosos da IA, o que levanta questões importantes: como exatamente a IA afeta a segurança cibernética? Os agentes de ameaças podem usá-lo para lançar ataques cibernéticos que continuam melhorando? Teoricamente sim. Nas últimas semanas e meses, o malware escrito ou aprimorado por inteligência artificial já foi observado em uma extensão crescente e pode-se supor que essa tendência aumentará. Como já existem relatos que falam de comunicação AI-to-AI, certamente posso imaginar um cenário em um futuro não muito distante em que o código malicioso gerado pela IA seja melhorado por outra IA. Portanto, é importante que os próprios fornecedores de segurança apliquem IA para neutralizar essa tendência.
Novos desafios através da IA
As empresas de tecnologia usam IA e aprendizado de máquina (ML) para melhorar partes de suas plataformas há anos. Objetos do cotidiano, como aplicativos de navegação e funções de autocorreção, usam IA. Vários fornecedores de software estão usando IA em todos os tipos de setores para otimizar todas as facetas de suas plataformas.
A tecnologia se baseia em nossa inteligência humana. Analistas de ameaças cibernéticas experientes combinam seus conhecimentos sobre hábitos, atividades, métodos de ataque e comportamento dos agentes de ameaças para criar a estrutura para sistemas de detecção eficazes. Isso monitora automaticamente as ameaças que surgem na web aberta, profunda e escura. As nuances da experiência e inteligência humanas, juntamente com o poder do aprendizado de máquina, permitem dimensionar e detectar ameaças perfeitamente para qualquer número de organizações.
Ataques mais rápidos e eficientes
Infelizmente, a IA não é útil apenas no lado da segurança cibernética. A tecnologia também é usada para contornar os sistemas de proteção criados com a ajuda deles. Ele está em constante evolução e, com a introdução de novas ferramentas baseadas em IA, os agentes de ameaças poderão executar seus ataques com muito mais rapidez e eficiência do que antes. Isso representa um problema sério para as equipes de segurança, pois elas não podem escalar infinitamente devido aos seus recursos limitados e são deixadas para trás.
O que isso significa para as equipes de segurança?
A IA não está mudando fundamentalmente a maneira como os agentes de ameaças executam ataques. O maior risco continua sendo bem conhecido: os invasores podem usar IA para aumentar o volume de seus ataques, por exemplo, automatizando o processo de implantação de um kit de phishing. O problema em si permanece o mesmo, mas a escala é significativamente maior. Ferramentas como o 10Web (Automated Website Builder), que permitem aos usuários clonar sites em massa, ajudarão a aumentar significativamente o número de sites de phishing usando domínios falsos.
A boa notícia é que os provedores de inteligência de ameaças cibernéticas parecem estar um passo à frente por enquanto. Muitas empresas investem em IA e aprendizado de máquina desde os primeiros dias, muito antes de a IA fazer sua estreia pública no ano passado. Recursos significativos de pesquisa e desenvolvimento já estão sendo dedicados para aprender o máximo possível sobre infraestruturas de phishing e mecanismos de evasão, que são continuamente alimentados em mecanismos automatizados de monitoramento e detecção. Também existem algoritmos de aprendizado de máquina que podem detectar domínios semelhantes, logotipos e gráficos semelhantes, código HTML proprietário e violação de propriedade intelectual, perfis falsos de mídia social e muito mais.
Conclusão
Atualmente, os aplicativos de IA são tão inteligentes, preditivos e poderosos quanto seus criadores humanos permitem que sejam. O uso de IA por agentes de ameaças certamente representará desafios adicionais para as equipes de segurança, mas isso geralmente também leva a inovações úteis para o futuro. Enquanto os humanos permanecerem no controle, a IA pode ser uma ferramenta extremamente útil para os profissionais de segurança enfrentarem o crescente cenário de ameaças e promoverem a segurança cibernética. De acordo com Markus Auer, consultor de segurança e diretor de vendas DACH da BlueVoyant.
Mais em BlueVoyant.com
Sobre a BlueVoyant
O BlueVoyant combina recursos internos e externos de defesa cibernética em uma plataforma nativa da nuvem baseada em resultados, monitorando continuamente sua rede, endpoints, superfície de ataque, cadeia de suprimentos e a clear, deep e dark web em busca de ameaças. A plataforma de defesa cibernética de espectro completo ilumina, valida e corrige ameaças rapidamente para proteger sua organização. O BlueVoyant aproveita a automação orientada por aprendizado de máquina e a experiência liderada por humanos.