La mise à jour de ChatGPT vers la version 4 était très attendue et, selon le fabricant Open AI, elle représenterait la technologie d'IA "la plus avancée" et aurait même réussi un examen du barreau avec les meilleures notes à un test. Cependant, la seule chose que ChatGPT peut recréer, ce sont des mensonges à peine reconnaissables dans les textes factuels, selon l'expert en sécurité Sophos Chester Wisniewski dans une interview.
Comment un représentant de l'industrie de la sécurité informatique voit-il le développement rapide de l'IA de chat et comment classe-t-il les opportunités qui en résultent et les éventuels inconvénients ? Chester Wisniewski, chercheur principal chez Sophos, a répondu à certaines des questions. Sa conclusion : le bénéfice l'emporte probablement sur le mal.
Quelles sont les différences entre GPT 3 et le nouveau GPT 4 ?
Beaucoup de choses ont changé et se sont améliorées, mais tout n'est pas connu. OpenAI garde ses cartes un peu plus serrées avec cette version que par le passé, donc toutes les améliorations n'ont pas été rendues publiques. Dans l'ensemble, il semble plus intelligent, plus précis et plus capable que les versions précédentes, ce qui devrait rendre les réactions encore plus réalistes et compétentes. Il est toujours important de se rappeler que même s'il est moins susceptible de diffuser de fausses informations, c'est toujours un très bon menteur.
Est-il éthique de mettre à la disposition du public un transformateur aussi génératif et préformé ?
Il est aussi disponible pour les méchants que pour les gentils. Le progrès technologique est comme un génie dans une bouteille. Vous ne pouvez pas simplement le ranger quand il devient inconfortable. Avoir des outils comme ChatGPT disponibles avec les protections qu'OpenAI essaie d'appliquer ne fera probablement pas plus de mal que de bien. Bien que l'abus criminel de l'IA soit inévitable, le bien qui peut découler d'une utilisation responsable de ces outils l'emportera probablement de loin sur tout abus.
Il semble qu'il existe déjà de nombreux exemples d'ingénierie rapide brisant les garde-corps du système, et il existe au moins un exemple d'injection rapide indirecte. Pensez-vous qu'il sera un jour possible de créer un modèle GPT qui ne puisse pas être abusé ?
🔎 Interview : Chester Wisniewski, expert en sécurité Sophos (Image : Sophos).
Non. Une réponse plus détaillée serait probablement plus bienvenue maintenant, mais tout système conçu pour prévenir les abus mais également conçu pour permettre au système de fonctionner de manière autonome sera très probablement toujours contournable. Mais à mesure qu'OpenAI et d'autres chercheurs en IA en apprennent davantage sur la façon dont les gens contournent leurs défenses, cela devient plus difficile. J'espère et je m'attends à ce qu'il faudra beaucoup plus de dextérité de la part de la cybercriminalité à l'avenir. Cependant, il sera toujours possible de compromettre le système.
ChatGPT crée-t-il quelque chose de nouveau ou fait-il simplement ce qui lui a été dit ? Que se passe-t-il si le modèle a appris ou appris des inexactitudes ?
La seule chose que ChatGPT peut recréer, ce sont les mensonges. C'est un menteur assez convaincant qui rivalise avec les meilleurs narcissiques que je connaisse. Le modèle a certainement aussi appris des choses inexactes ou fausses, et il est presque impossible de prédire quand il incorporera ces inexactitudes factuelles dans ses réponses.
Big AI appartiendra à Big Tech. Bien que les données personnelles et sensibles de l'entreprise contenues dans les invites puissent ne pas alimenter le modèle d'IA particulier, elles seront certainement disponibles pour les grandes entreprises technologiques. Et le modèle commercial des grands propriétaires de technologies repose souvent sur la vente de ces données au plus offrant. Peut-on faire quelque chose concernant les aspects de confidentialité de l'IA publique de type GPT ?
Pour la plupart des utilisateurs de systèmes d'IA aujourd'hui, il n'y a pas d'autre choix que de faire confiance aux promesses et aux accords de licence qu'ils acceptent pour utiliser des modèles comme ChatGPT. Cependant, bon nombre de ces modèles se développent de manière incroyablement efficace, il n'y a donc aucune raison pour qu'ils ne puissent pas fonctionner sur nos PC, ordinateurs portables ou même téléphones à l'avenir. La formation des modèles est intensive en calcul, mais son exécution ne l'est pas. Les modèles plus anciens peuvent être proposés en open source ou même en crowdsourcing afin qu'ils soient disponibles pour tous ceux qui souhaitent les utiliser. Les modèles les plus avant-gardistes resteront probablement entre les mains des grands géants de la technologie, mais les modèles plus que "assez bons" pourraient fonctionner sur un iPhone dans votre poche si vous le souhaitez.
Plus sur Sophos.com
À propos de Sophos Plus de 100 millions d'utilisateurs dans 150 pays font confiance à Sophos. Nous offrons la meilleure protection contre les menaces informatiques complexes et la perte de données. Nos solutions de sécurité complètes sont faciles à déployer, à utiliser et à gérer. Ils offrent le coût total de possession le plus bas du secteur. Sophos propose des solutions de chiffrement primées, des solutions de sécurité pour les terminaux, les réseaux, les appareils mobiles, la messagerie et le Web. Vous bénéficiez également de l'assistance des SophosLabs, notre réseau mondial de centres d'analyse propriétaires. Le siège social de Sophos se trouve à Boston, aux États-Unis, et à Oxford, au Royaume-Uni.