Ces derniers mois, le buzz autour de la technologie de l'IA s'est rapidement développé, en grande partie grâce à la sortie de ChatGPT. Cela entraîne de nouveaux défis en matière de sécurité.
Le programme est mis à la disposition du public gratuitement et a fait l'objet d'un débat public apparemment sans fin sur ses implications depuis son lancement en novembre dernier.
La technologie de l'IA s'avère assez intelligente. C'est en quelque sorte une évolution contemporaine du concept de moteur de recherche - les utilisateurs peuvent taper et en quelques instants obtenir une réponse bien conçue, précise et apparemment fiable à partir de sources sur le Web.
L'IA écrit et améliore les programmes malveillants
Cependant, il existe déjà des rapports d'utilisations dangereuses de l'IA, ce qui soulève des questions importantes : comment l'IA affecte-t-elle exactement la cybersécurité ? Les pirates peuvent-ils l'utiliser pour lancer des cyberattaques qui ne cessent de s'améliorer ? Théoriquement oui. Au cours des dernières semaines et des derniers mois, des logiciels malveillants écrits ou améliorés par l'intelligence artificielle ont été observés de plus en plus, et on peut supposer que cette tendance va augmenter. Puisqu'il existe déjà des rapports qui parlent de communication IA à IA, je peux certainement imaginer un scénario dans un avenir pas trop lointain dans lequel le code malveillant généré par l'IA est amélioré par une autre IA. Par conséquent, il est important que les fournisseurs de sécurité appliquent eux-mêmes l'IA pour contrer cette tendance.
De nouveaux défis grâce à l'IA
Les entreprises technologiques utilisent l'IA et l'apprentissage automatique (ML) pour améliorer certaines parties de leurs plates-formes depuis des années. Les objets du quotidien tels que les applications de navigation et les fonctions de correction automatique utilisent l'IA. De nombreux éditeurs de logiciels utilisent l'IA dans toutes sortes d'industries pour optimiser toutes les facettes de leurs plates-formes.
La technologie s'appuie sur notre intelligence humaine. Des analystes expérimentés en cybermenaces combinent leurs connaissances des habitudes, des activités, des méthodes d'attaque et du comportement des acteurs de la menace pour créer le cadre de systèmes de détection efficaces. Cela surveille automatiquement les menaces qui émergent sur le Web ouvert, profond et sombre. Les nuances de l'expérience humaine et de l'intelligence, associées à la puissance de l'apprentissage automatique, lui permettent d'évoluer et de détecter les menaces de manière transparente pour un nombre illimité d'organisations.
Des attaques plus rapides et plus efficaces
Malheureusement, l'IA n'est pas seulement utile du côté de la cybersécurité. La technologie est également utilisée pour contourner les systèmes de protection créés avec son aide. Il évolue constamment et, avec l'introduction de nouveaux outils basés sur l'IA, les acteurs de la menace seront en mesure d'exécuter leurs attaques beaucoup plus rapidement et plus efficacement qu'auparavant. Cela pose un sérieux problème aux équipes de sécurité car elles ne peuvent pas évoluer à l'infini en raison de leurs ressources limitées et sont laissées pour compte.
Qu'est-ce que cela signifie pour les équipes de sécurité ?
L'IA ne change pas fondamentalement la façon dont les acteurs de la menace exécutent les attaques. Le plus gros risque reste bien connu : les attaquants peuvent utiliser l'IA pour augmenter le volume de leurs attaques, par exemple en automatisant le processus de déploiement d'un kit de phishing. Le problème lui-même reste le même, mais l'échelle est nettement plus grande. Des outils comme 10Web (Automated Website Builder), qui permettent aux utilisateurs de cloner des sites Web en masse, contribueront à augmenter considérablement le nombre de sites Web de phishing utilisant de faux domaines.
La bonne nouvelle est que les fournisseurs de renseignements sur les cybermenaces semblent avoir une longueur d'avance pour le moment. De nombreuses entreprises investissent dans l'IA et l'apprentissage automatique depuis les premiers jours, bien avant que l'IA ne fasse ses débuts publics l'année dernière. D'importantes ressources de recherche et développement sont déjà consacrées à en apprendre le plus possible sur les infrastructures de phishing et les mécanismes d'évasion, qui sont continuellement alimentés par des mécanismes de surveillance et de détection automatisés. Il existe également des algorithmes d'apprentissage automatique qui peuvent détecter des domaines similaires, des logos et des graphiques similaires, un code HTML propriétaire et une violation de la propriété intellectuelle, de faux profils de médias sociaux, etc.
Conclusion
Actuellement, les applications d'IA ne sont aussi intelligentes, prédictives et puissantes que leurs créateurs humains le leur permettent. L'utilisation de l'IA par les acteurs de la menace posera certainement des défis supplémentaires aux équipes de sécurité, mais cela conduit généralement aussi à des innovations utiles pour l'avenir. Tant que les humains gardent le contrôle, l'IA peut être un outil extrêmement utile pour les professionnels de la sécurité pour faire face au paysage croissant des menaces et faire progresser la cybersécurité. Selon Markus Auer, conseiller en sécurité et directeur des ventes DACH chez BlueVoyant.
Plus sur BlueVoyant.com
À propos de BlueVoyant
BlueVoyant combine des capacités de cyberdéfense internes et externes dans une plate-forme cloud native basée sur les résultats en surveillant en permanence votre réseau, vos terminaux, votre surface d'attaque, votre chaîne d'approvisionnement et le Web clair, profond et sombre à la recherche de menaces. La plate-forme de cyberdéfense à spectre complet éclaire, valide et corrige rapidement les menaces pour protéger votre organisation. BlueVoyant s'appuie à la fois sur l'automatisation basée sur l'apprentissage automatique et sur l'expertise humaine.