La poursuite du développement des réseaux de neurones, de l'IA et de l'apprentissage automatique devient un véritable "changeur de jeu". Le chatbot ChatGPT rend cela plus que clair. Sophos AI utilise la technologie GPT avancée pour réaliser des applications de sécurité encore meilleures.
À mesure que l'échelle augmente, les réseaux de neurones s'améliorent de plus en plus. La base du programme est le modèle de traitement du langage GPT-3.5, qui provient également d'OpenAI. À l'échelle du supercalcul et en conjonction avec l'apprentissage automatique, Sophos AI utilise cette technologie avancée pour réaliser des applications de sécurité encore meilleures. Parce que surtout dans le domaine de la cybersécurité, les énormes performances par rapport aux modèles précédents plus petits se démarquent. Cela ressort clairement des différentes séries de tests réussis que les experts Sophos ont réalisés avec GPT-3 l'année dernière.
GPT-3 offre un potentiel énorme pour la sécurité informatique
GPT-3 est un modèle de langage à grande échelle pré-entraîné qui est révolutionnaire par sa flexibilité et sa précision. Et c'est exactement là que la créativité humaine de Sophos AI est requise, à savoir où et comment cette technologie peut être utilisée dans la lutte contre la cybercriminalité. Parce que si les données d'entrée et de sortie peuvent être converties en texte, les utilisations de GPT-3 sont également infinies dans ce domaine. Par exemple, vous pouvez demander à GPT-3 d'écrire du code Python fonctionnel à partir d'une description de fonction ou de créer une application de classification avec seulement quelques exemples.
Sophos AI - veut utiliser le potentiel GPT-3
Les experts de Sophos AI voient un énorme potentiel dans GPT-3. Par exemple, trouver un enregistrement non étiqueté est relativement facile ; Cependant, la création d'un ensemble de données étiquetées pour la formation d'un modèle d'apprentissage automatique traditionnel prend généralement beaucoup de temps et est difficile. Les modèles d'apprentissage automatique traditionnels qui sont formés avec peu d'exemples ont souvent des problèmes de surajustement. En d'autres termes, ils ne se généralisent pas bien à des exemples auparavant inexistants. Avec le GPT-3 "Few-Shot Learning", cependant, Sophos AI ne nécessite que quelques exemples de formation annotés et surpasse ainsi les modèles conventionnels. Étant donné que GPT-3 a été auto-surveillé et entraîné de manière approfondie, il a été démontré qu'il fonctionnait bien sur plusieurs problèmes de classification avec seulement quelques exemples.
Deux exemples pour l'application concrète
détection de spam
🔎 Demander une tâche de classification de spam (Image : Sophos).
Il est difficile de former un puissant modèle de classification du spam avec seulement quatre échantillons non critiques et quatre échantillons de spam. Les modèles de classification traditionnels nécessitent souvent un grand ensemble de données de formation pour apprendre suffisamment de signaux. Cependant, étant donné que GPT-3 est un modèle de langage formé sur un grand ensemble de données textuelles, il peut reconnaître l'intention d'une tâche de classification et résoudre la tâche avec quelques exemples.
Lors de l'apprentissage avec quelques exemples, une étape importante est l'ingénierie rapide, qui implique la conception du format des données d'entrée pour les tâches d'achèvement de texte. L'image montre une telle tâche de classification de spam.
L'invite comprend une instruction et quelques exemples avec leurs étiquettes en tant qu'ensemble de support, et un exemple de requête est joint dans la dernière section. GPT-3 est ensuite invité à générer une réponse sous forme de prédiction d'étiquette à partir de l'entrée.
En comparant les résultats de classification entre les modèles ML traditionnels et "l'apprentissage à quelques coups" avec GPT-3, il est facile de voir qu'il surpasse clairement les modèles ML traditionnels tels que la régression logistique et la "forêt aléatoire". En effet, l'apprentissage en quelques prises de vue prend les informations de contexte des exemples donnés et choisit l'étiquette de l'exemple le plus similaire comme sortie. En conséquence, GPT-3 ne nécessite pas de recyclage mais permet de construire un modèle de classification puissant avec une ingénierie simple et rapide.
Explications lisibles pour le code difficile à déchiffrer
La rétro-ingénierie des lignes de commande est une tâche difficile et chronophage, même pour les experts en sécurité. Il est encore plus difficile de comprendre les commandes "vivre hors de la terre" car elles sont longues et contiennent des chaînes difficiles à analyser. Les attaquants utilisent des applications standard et des processus standard sur les ordinateurs de leurs victimes pour camoufler les activités de phishing, par exemple. GPT-3 peut traduire une ligne de commande en une description compréhensible - par exemple, écrire du code Python ou Java fonctionnel à partir d'une description donnée du code. Il est également possible de demander à GPT-3 de générer plusieurs descriptions à partir d'une ligne de commande, et les descriptions de sortie seront tokenisées avec des probabilités au niveau du mot pour sélectionner le meilleur candidat. L'approche de Sophos AI pour sélectionner la meilleure description parmi plusieurs variantes consiste à utiliser une méthode de traduction inverse qui sélectionne la description qui peut produire la ligne de commande la plus similaire à la ligne de commande d'entrée.
GPT-3 : Jalon de la cybersécurité
"GPT-3 est une étape importante en matière de cybersécurité car il peut détecter les spams et analyser des lignes de commande complexes avec peu d'exemples", déclarent les experts de l'équipe Sophos AI. « La flexibilité de GPT-3 est très bien adaptée à la lutte contre les cybermenaces en constante évolution. Nous supposons que les problèmes de cybersécurité encore plus difficiles pourront bientôt être résolus avec des modèles de réseaux neuronaux proportionnellement plus grands.
Plus sur Sophos.com
À propos de Sophos Plus de 100 millions d'utilisateurs dans 150 pays font confiance à Sophos. Nous offrons la meilleure protection contre les menaces informatiques complexes et la perte de données. Nos solutions de sécurité complètes sont faciles à déployer, à utiliser et à gérer. Ils offrent le coût total de possession le plus bas du secteur. Sophos propose des solutions de chiffrement primées, des solutions de sécurité pour les terminaux, les réseaux, les appareils mobiles, la messagerie et le Web. Vous bénéficiez également de l'assistance des SophosLabs, notre réseau mondial de centres d'analyse propriétaires. Le siège social de Sophos se trouve à Boston, aux États-Unis, et à Oxford, au Royaume-Uni.