Le côté obscur de la popularité de ChatGPT est qu'il attire également l'attention des escrocs qui tentent de tirer profit de l'utilisation de phrases et de noms de domaine qui semblent liés au site.
Entre novembre 2022 et début avril 2023, l'unité 42 a enregistré une augmentation de 910 % des enregistrements mensuels pour les domaines liés à ChatGPT. L'unité 42 a également observé une croissance de 17.818 42 % des domaines de squattage associés à partir des journaux de sécurité DNS au cours de cette période. L'unité 118 a également enregistré jusqu'à XNUMX détections d'URL malveillantes liées à ChatGPT capturées quotidiennement à partir du trafic.
Copier les chatbots
Dans l'analyse, l'unité 42 présente plusieurs études de cas pour illustrer les différentes méthodes utilisées par les escrocs pour inciter les utilisateurs à télécharger des logiciels malveillants ou à partager des informations sensibles. Lorsque OpenAI a publié son API officielle pour ChatGPT le 1er mars 2023, l'Unité 42 a observé un nombre croissant de produits suspects l'utilisant. Par conséquent, l'unité 42 met en évidence les dangers potentiels de l'utilisation de chatbots imitateurs pour encourager les utilisateurs de ChatGPT à approcher ces chatbots avec un état d'esprit défensif.
Alors qu'OpenAI commençait son ascension rapide pour devenir l'une des marques les plus connues dans le domaine de l'intelligence artificielle, l'unité 42 a observé plusieurs cas d'acteurs malveillants enregistrant et exploitant des domaines squattés dans la nature, en utilisant "openai" et "chatgpt" comme leur nom de domaine ( p. ex. openai[.]us, openai[.]xyz et chatgpt[.]jobs). La plupart de ces domaines n'hébergent rien de malveillant au début d'avril 2023, mais il est inquiétant qu'ils ne soient pas contrôlés par OpenAI ou d'autres sociétés de gestion de domaine authentiques. Ils pourraient toujours être utilisés à mauvais escient pour causer du tort.
Au cours de la recherche, l'Unité 42 a observé plusieurs URL de phishing tentant d'usurper l'identité des sites Web officiels d'OpenAI. En règle générale, les escrocs créent un faux site Web qui imite étroitement l'apparence du site Web officiel ChatGPT, puis incitent les utilisateurs à télécharger des logiciels malveillants ou à partager des informations sensibles.
Faux sites ChatGPT
De plus, les escrocs peuvent utiliser l'ingénierie sociale liée à ChatGPT pour le vol d'identité ou la fraude financière. Bien qu'OpenAI fournisse aux utilisateurs une version gratuite de ChatGPT, les escrocs conduisent les victimes vers des sites Web trompeurs et prétendent qu'ils doivent payer pour ces services. Par exemple, les faux sites ChatGPT tentent d'inciter les victimes à révéler leurs informations sensibles telles que les détails de la carte de crédit et les adresses e-mail. L'unité 42 a également noté que certains escrocs profitent de la popularité croissante d'OpenAI pour les escroqueries cryptographiques.
Alors que ChatGPT est devenu l'une des applications les plus populaires cette année, de plus en plus d'applications de chatbot imitant l'IA sont également apparues sur le marché. Certaines de ces applications proposent leurs propres modèles de langage majeurs, d'autres prétendent offrir des services ChatGPT via l'API publique annoncée le 1er mars. Cependant, l'utilisation de robots de chat imitateurs pourrait augmenter les risques de sécurité. Avant la sortie de l'API ChatGPT, plusieurs projets open source permettaient aux utilisateurs de se connecter à ChatGPT via divers outils d'automatisation. Étant donné que ChatGPT n'est pas accessible dans certains pays ou régions, les sites Web construits à l'aide de ces outils d'automatisation ou de l'API pourraient attirer un nombre important d'utilisateurs de ces régions. Cela offre également aux pirates la possibilité de monétiser ChatGPT en représentant leur service. Les utilisateurs doivent toujours accéder à ChatGPT depuis le site officiel d'OpenAI.
Plus sur PaloAltoNetworks.com
À propos des réseaux de Palo Alto Palo Alto Networks, le leader mondial des solutions de cybersécurité, façonne l'avenir basé sur le cloud avec des technologies qui transforment la façon dont les gens et les entreprises travaillent. Notre mission est d'être le partenaire privilégié en matière de cybersécurité et de protéger notre mode de vie numérique. Nous vous aidons à relever les plus grands défis de sécurité au monde grâce à une innovation continue tirant parti des dernières avancées en matière d'intelligence artificielle, d'analyse, d'automatisation et d'orchestration. En fournissant une plate-forme intégrée et en renforçant un écosystème croissant de partenaires, nous sommes les leaders dans la protection de dizaines de milliers d'entreprises sur les clouds, les réseaux et les appareils mobiles. Notre vision est un monde où chaque jour est plus sûr que le précédent.