सुरक्षा शोधकर्ता फ़िशिंग ईमेल, मैलवेयर कीलॉगर्स और सरल रैंसमवेयर कोड उत्पन्न करने के लिए Google के जेनरेटिव एआई बार्ड का उपयोग करने में सक्षम थे।
जेनरेटिव एआई क्रांति ने कृत्रिम बुद्धिमत्ता के क्षेत्र में एक आदर्श बदलाव ला दिया है, जिससे मशीनें उल्लेखनीय परिष्कार के साथ सामग्री बनाने और उत्पन्न करने में सक्षम हो गई हैं। जेनरेटिव एआई, एआई मॉडल और एल्गोरिदम के सबसेट को संदर्भित करता है जो स्वायत्त रूप से पाठ, चित्र, संगीत और यहां तक कि मानव रचनाओं की नकल करने वाले वीडियो उत्पन्न करने में सक्षम है। इस अभूतपूर्व तकनीक ने कलाकारों और डिजाइनरों को सशक्त बनाने से लेकर उद्योगों में उत्पादकता बढ़ाने तक, कई रचनात्मक संभावनाओं को खोल दिया है। हालाँकि, जेनेरिक एआई के प्रसार ने भी महत्वपूर्ण चिंताएँ और नैतिक विचार पैदा किए हैं। मुख्य चिंताओं में से एक दुर्भावनापूर्ण उद्देश्यों के लिए इस तकनीक के संभावित दुरुपयोग के आसपास घूमती है, जैसे कि बी. साइबर क्राइम.
दुर्भावनापूर्ण उद्देश्य
पिछली रिपोर्टों में, चेक प्वाइंट रिसर्च ने विस्तार से बताया है कि कैसे साइबर अपराधी दुर्भावनापूर्ण उद्देश्यों के लिए क्रांतिकारी तकनीक का शोषण कर रहे हैं, विशेष रूप से ओपनएआई के जेनरेटिव एआई प्लेटफॉर्म चैटजीपीटी के माध्यम से दुर्भावनापूर्ण कोड और सामग्री बनाने के लिए। इस रिपोर्ट में, शोधकर्ताओं ने अपना ध्यान Google के जेनरेटिव AI प्लेटफ़ॉर्म "बार्ड" पर केंद्रित किया। इस विचार से शुरू करके और पिछले विश्लेषणों के बाद, सुरक्षा शोधकर्ताओं ने दो मुख्य उद्देश्यों के साथ प्लेटफ़ॉर्म का विश्लेषण किया: यह सत्यापित करने के लिए कि क्या बार्ड का उपयोग दुर्भावनापूर्ण उद्देश्यों (उदाहरण के लिए फ़िशिंग ईमेल / मैलवेयर / रैंसमवेयर का निर्माण) के लिए करना संभव है और दूसरे चरण में Google की तुलना करें दुर्भावनापूर्ण सामग्री निर्माण के मामले में चैटजीपीटी के साथ बार्ड।
बार्ड क्या उत्पन्न कर सकता है
- फ़िशिंग ईमेल
- मैलवेयर कीलॉगर (एक निगरानी उपकरण जो कंप्यूटर पर प्रत्येक कीस्ट्रोक की निगरानी और रिकॉर्ड करता है)
- सरल रैंसमवेयर कोड
सबसे पहले, सीपीआर ने फ़िशिंग ईमेल बनाने के लिए सबसे सरल अनुरोध का प्रयास किया, जिसे चैटजीपीटी और बार्ड दोनों ने अस्वीकार कर दिया। सीपीआर ने फिर से कोशिश की, एक नमूना फ़िशिंग ईमेल मांगा और जबकि चैटजीपीटी ने अनुरोध अस्वीकार कर दिया, बार्ड ने एक वित्तीय सेवा फर्म के रूप में प्रस्तुत करते हुए एक अच्छी तरह से लिखित फ़िशिंग ईमेल दिया। आगे के प्रयासों के बाद और अनुरोध के औचित्य के साथ, दोनों एआई बॉट्स ने अंततः एक कीलॉगर दिया जिसने "मेरे" कीस्ट्रोक्स (शोधकर्ता बनाम उपयोगकर्ता के) को रिकॉर्ड किया, अंतर यह था कि चैटजीपीटी ने दुर्भावनापूर्ण उपयोग के बारे में कुछ प्रकार का अस्वीकरण जोड़ा।
दूसरा प्रयास
दूसरे प्रयास से पता चला कि बार्ड सरल रैनसमवेयर कोड भी बनाता है। पहला सरल अनुरोध विफल होने के बाद, शोधकर्ताओं ने बार्ड से रैंसमवेयर द्वारा की जाने वाली सबसे आम क्रियाओं के बारे में पूछा। सीपीआर को रैंसमवेयर कैसे काम करता है इसकी एक बुलेटेड सूची प्राप्त हुई और इसे एक सरल कॉपी और पेस्ट ऑपरेशन के साथ स्क्रिप्ट अनुरोधों में बदल दिया गया। इसने काम किया: सीपीआर ने स्क्रिप्ट के लिए आवश्यकताओं को निर्दिष्ट करके कोड प्राप्त किया। शोधकर्ताओं द्वारा बार्ड की मदद से स्क्रिप्ट को थोड़ा संशोधित करने और कुछ अतिरिक्त फ़ंक्शन और अपवाद जोड़ने के बाद, उन्हें एक कार्यशील रैंसमवेयर स्क्रिप्ट मिली।
सारांश
1. चैटजीपीटी की तुलना में बार्ड की साइबर सुरक्षा दुरुपयोग सुरक्षा काफी कमजोर है। परिणामस्वरूप, बार्ड की क्षमताओं का उपयोग करके दुर्भावनापूर्ण सामग्री उत्पन्न करना बहुत आसान है।
2. बार्ड में फ़िशिंग ईमेल के निर्माण पर लगभग कोई प्रतिबंध नहीं है, जिससे इस तकनीक के संभावित दुरुपयोग और शोषण की गुंजाइश रहती है।
3. न्यूनतम हेरफेर के साथ, बार्ड का उपयोग मैलवेयर कीलॉगर्स विकसित करने के लिए किया जा सकता है, जो सुरक्षा जोखिम पैदा करता है।
4. सीपीआर के प्रयोगों से पता चला है कि बार्ड की क्षमताओं का उपयोग करके सरल रैंसमवेयर बनाना संभव है।
कुल मिलाकर, ऐसा प्रतीत होता है कि Google के बार्ड ने साइबर स्पेस में दुरुपयोग विरोधी प्रतिबंधों को लागू करने में चैटजीपीटी द्वारा प्रदर्शित सबक से अभी तक पूरी तरह से नहीं सीखा है। बार्ड में मौजूदा प्रतिबंध अपेक्षाकृत सरल हैं और सीपीआर ने कुछ महीने पहले अपने शुरुआती चरण में चैटजीपीटी पर जो देखा था, उसके समान है। आशा है कि ये लंबी यात्रा में केवल पहला कदम हैं और मंच जल्द ही आवश्यक प्रतिबंध और सुरक्षा सीमाएं लागू करेगा।
चेक प्वाइंट के बारे में चेक प्वाइंट सॉफ्टवेयर टेक्नोलॉजीज जीएमबीएच (www.checkpoint.com/de) दुनिया भर में सार्वजनिक प्रशासन और कंपनियों के लिए साइबर सुरक्षा समाधान का एक अग्रणी प्रदाता है। समाधान ग्राहकों को मैलवेयर, रैंसमवेयर और अन्य प्रकार के हमलों की उद्योग-अग्रणी पहचान दर के साथ साइबर हमलों से बचाते हैं। चेक प्वाइंट एक बहुस्तरीय सुरक्षा वास्तुकला प्रदान करता है जो क्लाउड, नेटवर्क और मोबाइल उपकरणों में कॉर्पोरेट जानकारी की सुरक्षा करता है, और सबसे व्यापक और सहज "नियंत्रण का एक बिंदु" सुरक्षा प्रबंधन प्रणाली है। चेक प्वाइंट सभी आकारों के 100.000 से अधिक व्यवसायों की सुरक्षा करता है।