De acordo com pesquisadores de segurança em Israel, gangues de hackers já estão usando inteligência artificial (IA) para treinar seus novos membros. Eles também são auxiliados por IA para melhorar o malware, automatizar ataques e geralmente executar suas operações criminosas sem problemas.
Por outro lado, os consultores de gestão da McKinsey descobriram por meio de uma pesquisa para o ano de 2022 que 50% das empresas pesquisadas usam IA para apoiar o trabalho em pelo menos uma área de negócios - em 2017 eram apenas 20%. Segundo a revista Forbes, até 60% dos empresários entrevistados acreditam que a IA aumentará a produtividade de sua empresa em geral, sendo que 64% acreditam no aumento da produtividade operacional, enquanto 42% se relacionam com a melhoria dos processos de trabalho.
Essa justaposição mostra bem como uma e a mesma tecnologia pode ser usada aqui para bons e maus propósitos. A preocupação que mais move a população atualmente: a IA pode aprender quais áreas de aplicação são boas ou ruins para evitar o uso indevido por conta própria?
ChatGPT e Google Bard ajudam hackers
- Ataques cibernéticos automatizados: Como ambas as ferramentas estão no mercado, nossos pesquisadores de segurança observaram uma proliferação de bots que controlam remotamente computadores infectados e outros sistemas automatizados. São ideais para ataques DDoS, que podem paralisar um servidor ou um sistema inteiro com uma enorme quantidade de solicitações de acesso. Também por esse motivo, os ataques de TI aumentaram 38% em todo o mundo no ano passado.
- Ajuda para criar malware, e-mails de phishing, deepfakes e o design de ataques cibernéticos: os hackers reconheceram desde o início que o ChatGPT poderia criar linhas de comando para malware ou escrever e-mails de phishing - este último em inglês ou alemão melhor do que os próprios criminosos costumam escrever. Além disso, como o ChatGPT e o Google Bard aprendem com cada entrada, eles podem até criar conteúdos complicados, como imagens, vídeos ou até mesmo gravações de som. É aqui que entra o perigo dos deepfakes. Isso significa filmes que mostram e falam sobre uma pessoa específica da maneira que estamos acostumados, mesmo que seja uma farsa. A tecnologia moderna permite a falsificação de expressões faciais, gestos e voz. Barack Obama, Joe Biden, Volodymyr Zelenskyy e Vladimir Putin já foram vítimas de tais deepfakes.
- pequenos criminosos sem grande capacidade de programação podem se tornar hackers: com a ajuda de tais chatbots orientados por IA, gangues de hackers podem, como mencionado acima, treinar seus novos membros, ou pessoas com tendências criminosas podem mexer rapidamente e lançar um pequeno ataque de TI. Isso leva a uma enxurrada de, por assim dizer, mini-ataques e novos grupos de hackers.
Para evitar esse abuso, o fabricante do ChatGPT, a empresa OpenAI, instalou alguns dispositivos de segurança e excluiu o uso de países, mas isso não durou muito: primeiro, os bloqueios de solicitação foram contornados por meio de perguntas inteligentes ao chatbot, depois as restrições do país foram derrubadas, depois contas premium foram roubadas e vendidas em grande escala e agora até mesmo clones do ChatGPT são oferecidos na Darknet na forma de interfaces API.
Uma maneira de tornar a própria IA menos vulnerável a abusos é treinar a própria IA. Os engenheiros concordam que é impossível remover o conhecimento aprendido de uma IA, portanto, algum tipo de catálogo de ética deve ser ensinado à IA desde o início, para que ela se atenha a certas regras por si mesma. Isso também seria possível com leis que simplesmente proíbem algumas ações.
Mais em Checkpoint.com
Sobre o ponto de verificação A Check Point Software Technologies GmbH (www.checkpoint.com/de) é um fornecedor líder de soluções de segurança cibernética para administrações públicas e empresas em todo o mundo. As soluções protegem os clientes contra ataques cibernéticos com uma taxa de detecção líder do setor de malware, ransomware e outros tipos de ataques. A Check Point oferece uma arquitetura de segurança multicamada que protege as informações corporativas em nuvem, rede e dispositivos móveis, e o sistema de gerenciamento de segurança "um ponto de controle" mais abrangente e intuitivo. A Check Point protege mais de 100.000 empresas de todos os portes.