Les criminels utilisent l'intelligence artificielle - pas seulement pour les deepfakes. Europol, UNICRI et Trend Micro rendent compte des menaces actuelles et futures de l'IA.
Trend Micro a publié aujourd'hui un nouveau rapport de recherche, produit en collaboration avec Europol et l'Institut interrégional des Nations Unies pour l'étude de la criminalité et de la justice (UNICRI). Dans ce document, les chercheurs en sécurité traitent de l'utilisation actuelle et future possible de l'intelligence artificielle (IA) par les criminels. Le rapport fournit aux forces de l'ordre, aux décideurs politiques et à d'autres organisations des informations sur les attaques actuelles et futures potentielles utilisant l'intelligence artificielle et des recommandations pour atténuer ces risques.
Avantages potentiels de la technologie de l'IA
"L'IA promet au monde plus d'efficacité, d'automatisation et d'autonomie. À une époque où le public est de plus en plus préoccupé par l'utilisation abusive potentielle de l'IA, nous devons rendre les menaces transparentes, mais aussi examiner les avantages potentiels de la technologie de l'IA », déclare Edvardas Šileris, chef du Centre de lutte contre la cybercriminalité d'Europol (Europol EC3) . « Ce rapport nous aidera non seulement à anticiper les utilisations malveillantes et les abus potentiels de l'IA, mais aussi à prévenir et à atténuer ces menaces de manière proactive. De cette façon, nous pouvons libérer le potentiel de l'IA et bénéficier de l'utilisation positive des systèmes d'IA. »
Le rapport conclut que les cybercriminels utiliseront l'IA à la fois comme vecteur d'attaque et comme surface d'attaque. Les deepfakes (contenus médiatiques réalistes tels que photos, audio et vidéo modifiés et déformés par l'IA) sont actuellement l'utilisation la plus connue de l'IA en tant que vecteur d'attaque, mais le rapport prévient que de nouvelles technologies de filtrage seront nécessaires à l'avenir. pour détecter cela Réduisez le risque de campagnes de désinformation et d'extorsion, ainsi que les menaces ciblant les ensembles de données d'IA.
L'IA pourrait prendre en charge les types d'attaques suivants
- Attaques d'ingénierie sociale à grande échelle
- Logiciels malveillants pouvant exfiltrer certaines données de documents à grande échelle (document scraping)
- Contourner la reconnaissance d'image et la biométrie vocale
- Attaques de ransomwares qui ciblent encore plus précisément les victimes et contournent les mécanismes de protection
- Pollution des données due à l'identification des angles morts dans les règles de détection
"Comme les applications d'IA ont un impact croissant sur le monde réel, il devient clair que ce sera une technologie fondamentale à l'avenir", explique Irakli Beridze, responsable du Centre pour l'IA et la robotique à l'UNICRI. "Mais tout comme l'IA offre des avantages très réels à la société, la menace d'utilisation malveillante l'est également. Nous sommes honorés de nous associer à Europol et Trend Micro pour faire la lumière sur le côté obscur de l'IA et encourager la poursuite des discussions sur ce sujet important.
Le rapport avertit également que des systèmes d'IA sont en cours de développement pour améliorer l'efficacité des logiciels malveillants et perturber les systèmes anti-malware et de reconnaissance faciale.
L'IA calcule les mots de passe, casse les codes CAPTCHA, clone les voix
« Les cybercriminels ont toujours été parmi les premiers à adopter les dernières technologies, et c'est aussi le cas avec l'IA. Comme le montre notre rapport, il est déjà utilisé pour le craquage de mots de passe, la rupture de code CAPTCHA et le clonage de la voix. Et de nombreuses autres innovations malveillantes sont en préparation », a déclaré Martin Rösler, responsable de l'équipe de recherche prospective sur les menaces de Trend Micro. "Nous sommes fiers de travailler avec Europol et l'UNICRI pour sensibiliser à cette menace et, ce faisant, contribuer à créer un avenir numérique plus sûr pour nous tous."
À la fin du rapport, les trois organisations recommandent diverses mesures pour faire face à l'IA :
- Exploiter le potentiel de la technologie de l'IA en tant qu'outil de lutte contre la criminalité pour assurer la pérennité de l'industrie de la cybersécurité et des forces de l'ordre
- Poursuivre la recherche dans le domaine de l'IA pour développer davantage de technologies de défense
- Promouvoir et développer des cadres de conception d'IA sûrs
- Désescalade de la rhétorique politiquement chargée sur l'utilisation de l'IA à des fins de cybersécurité
- Utiliser des partenariats public-privé et mettre en place des groupes d'experts pluridisciplinaires
Le rapport de recherche complet est disponible en ligne.
Accédez directement au rapport sur TrendMicro.com
À propos de Trend Micro En tant que l'un des principaux fournisseurs mondiaux de sécurité informatique, Trend Micro aide à créer un monde sécurisé pour l'échange de données numériques. Avec plus de 30 ans d'expertise en matière de sécurité, de recherche sur les menaces mondiales et d'innovation constante, Trend Micro offre une protection aux entreprises, aux agences gouvernementales et aux consommateurs. Grâce à notre stratégie de sécurité XGen™, nos solutions bénéficient d'une combinaison intergénérationnelle de techniques de défense optimisées pour les environnements de pointe. Les informations sur les menaces en réseau permettent une protection meilleure et plus rapide. Optimisées pour les charges de travail cloud, les terminaux, les e-mails, l'IIoT et les réseaux, nos solutions connectées offrent une visibilité centralisée sur l'ensemble de l'entreprise pour une détection et une réponse plus rapides aux menaces.