Os criminosos usam inteligência artificial - não apenas para deepfakes. Europol, UNICRI e Trend Micro relatam ameaças atuais e futuras de IA.
A Trend Micro lançou hoje um novo relatório de pesquisa, produzido em colaboração com a Europol e o Instituto Inter-Regional das Nações Unidas para o Estudo do Crime e da Justiça (UNICRI). Nele, os pesquisadores de segurança tratam do uso atual e possível futuro da inteligência artificial (IA) por criminosos. O relatório fornece às agências de aplicação da lei, formuladores de políticas e outras organizações informações sobre ataques atuais e potenciais futuros usando inteligência artificial e recomendações para mitigar esses riscos.
Benefícios potenciais da tecnologia de IA
“A IA promete ao mundo mais eficiência, automação e autonomia. Numa época em que o público está cada vez mais preocupado com o potencial uso indevido da IA, precisamos tornar as ameaças transparentes, mas também examinar os benefícios potenciais da tecnologia IA”, diz Edvardas Šileris, chefe do Centro de Cibercrime da Europol (Europol EC3). “Este relatório não apenas nos ajudará a antecipar possíveis usos e abusos maliciosos da IA, mas também prevenir e mitigar proativamente essas ameaças. Dessa forma, podemos liberar o potencial da IA e nos beneficiar do uso positivo dos sistemas de IA.”
O relatório conclui que os cibercriminosos usarão IA tanto como vetor de ataque quanto como superfície de ataque. Deepfakes (conteúdo de mídia de aparência realista, como fotos, áudio e vídeo modificados e distorcidos por IA) são atualmente o uso mais conhecido de IA como vetor de ataque. No entanto, o relatório alerta que novas tecnologias de triagem serão necessárias no futuro para detectar isso Reduza o risco de campanhas de desinformação e extorsão, bem como ameaças direcionadas a conjuntos de dados de IA.
A IA pode suportar os seguintes tipos de ataques
- Ataques convincentes de engenharia social em larga escala
- Malware que pode exfiltrar determinados dados de documentos em grande escala (raspagem de documentos)
- Ignore o reconhecimento de imagem e a biometria de voz
- Ataques de ransomware que visam as vítimas com ainda mais precisão e contornam os mecanismos de proteção
- Poluição de dados pela identificação de pontos cegos nas regras de detecção
“Como os aplicativos de IA têm um impacto crescente no mundo real, fica claro que esta será uma tecnologia fundamental no futuro”, explica Irakli Beridze, chefe do Centro de IA e Robótica da UNICRI. “Mas assim como a IA oferece benefícios muito reais para a sociedade, também o é a ameaça de uso malicioso. Estamos honrados em unir forças com a Europol e a Trend Micro para lançar luz sobre o lado negro da IA e encorajar uma discussão mais aprofundada sobre este importante tópico”.
O relatório também alerta que os sistemas de IA estão sendo desenvolvidos para melhorar a eficácia do malware e interromper os sistemas antimalware e de reconhecimento facial.
AI calcula senhas, quebra códigos CAPTCHA, clona vozes
“Os cibercriminosos sempre estiveram entre os primeiros a adotar as tecnologias mais recentes, e esse também é o caso da IA. Como mostra nosso relatório, ele já está sendo usado para quebra de senha, quebra de código CAPTCHA e clonagem de voz. E há muito mais inovações maliciosas em andamento”, disse Martin Rösler, chefe da equipe de pesquisa de ameaças futuras da Trend Micro. “Estamos orgulhosos de trabalhar com a Europol e o UNICRI para aumentar a conscientização sobre essa ameaça e, ao fazê-lo, ajudar a criar um futuro digital mais seguro para todos nós”.
No final do relatório, as três organizações recomendam várias medidas para lidar com a IA:
- Aproveitando o potencial da tecnologia de IA como uma ferramenta de combate ao crime para proteger o futuro da indústria de segurança cibernética e da aplicação da lei
- Continuar a pesquisa no campo da IA para desenvolver mais tecnologias de defesa
- Promover e desenvolver estruturas seguras de design de IA
- Diminuição da retórica politicamente carregada sobre o uso de IA para fins de segurança cibernética
- Usando parcerias público-privadas e criando grupos de especialistas multidisciplinares
Todo o relatório da pesquisa está disponível online.
Vá direto para o relatório em TrendMicro.com
Sobre a Trend Micro Como um dos principais fornecedores mundiais de segurança de TI, a Trend Micro ajuda a criar um mundo seguro para a troca de dados digitais. Com mais de 30 anos de experiência em segurança, pesquisa de ameaças globais e inovação constante, a Trend Micro oferece proteção para empresas, agências governamentais e consumidores. Graças à nossa estratégia de segurança XGen™, nossas soluções se beneficiam de uma combinação entre gerações de técnicas de defesa otimizadas para ambientes de ponta. As informações sobre ameaças em rede permitem uma proteção melhor e mais rápida. Otimizadas para cargas de trabalho em nuvem, endpoints, e-mail, IIoT e redes, nossas soluções conectadas fornecem visibilidade centralizada em toda a empresa para detecção e resposta mais rápidas a ameaças.