दो शोध रिपोर्टें हमलों के लिए एआई के वर्तमान उपयोग को दर्शाती हैं और दूसरी ओर, डार्क वेब मंचों की जांच करके कृत्रिम बुद्धिमत्ता के प्रति साइबर अपराधियों के रवैये का विश्लेषण किया जाता है। आश्चर्य: हर अपराधी एआई के लाभों से आश्वस्त नहीं है।
सोफोस ने आज साइबर अपराध में एआई के उपयोग पर दो रिपोर्ट प्रकाशित कीं। रिपोर्ट "एआई का स्याह पक्ष: बड़े पैमाने पर घोटाला अभियान जनरेटिव एआई द्वारा संभव बनाया गया" यह जांचने के लिए एक विशिष्ट केस स्टडी का उपयोग किया जाता है कि धोखेबाज भविष्य में न्यूनतम तकनीकी कौशल के साथ बड़े पैमाने पर धोखाधड़ी के हमलों को अंजाम देने के लिए चैटजीपीटी जैसी तकनीकों का उपयोग कैसे कर सकते हैं। दूसरी रिपोर्ट "साइबर अपराधी जीपीटी पर सहमत नहीं हो सकते" विभिन्न डार्क वेब मंचों की जांच प्रस्तुत करता है। नतीजे बताते हैं कि नई तकनीक की क्षमता के बावजूद, कुछ साइबर अपराधी चैटबॉट और अन्य एआई प्रौद्योगिकियों के वर्तमान उपयोग के बारे में संदेह में हैं।
“हमें डार्क वेब पर समाज पर एआई के संभावित नकारात्मक प्रभावों और इसके उपयोग के नैतिक प्रभावों के बारे में कई पोस्ट मिलीं। दूसरे शब्दों में, कम से कम अभी के लिए, ऐसा प्रतीत होता है कि साइबर अपराधी कृत्रिम बुद्धिमत्ता के बारे में हममें से बाकी लोगों की तरह ही बहस कर रहे हैं, ”सोफोस में एक्स-ऑप्स अनुसंधान के निदेशक क्रिस्टोफर बड ने कहा।
एआई: कृत्रिम बुद्धिमत्ता का स्याह पक्ष
एक सरल ईकॉमर्स टेम्पलेट और जीपीटी-4 जैसे बेहतरीन भाषा मॉडल टूल का उपयोग करके, सोफोस एक्स-ऑप्स एआई-जनित छवियों, ऑडियो और उत्पाद विवरणों के साथ-साथ एक नकली फेसबुक लॉगिन पेज और एक नकली चेकआउट के साथ एक पूरी तरह कार्यात्मक वेबसाइट बनाने में सक्षम था। पेज, व्यक्तिगत लॉगिन और क्रेडिट कार्ड की जानकारी एकत्र करने के लिए। वेबसाइट बनाने और संचालित करने के लिए न्यूनतम तकनीकी ज्ञान की आवश्यकता थी। उसी टूल ने केवल एक बटन के क्लिक से मिनटों में सैकड़ों समान वेबसाइट बनाना भी संभव बना दिया।
सोफोस के वरिष्ठ डेटा वैज्ञानिक बेन जेलमैन ने कहा, "यह स्वाभाविक और अपेक्षित है कि अपराधी अपने संचालन को यथासंभव प्रभावी बनाने के लिए नई तकनीकों का उपयोग करेंगे।" “स्पैम ईमेल का मूल निर्माण धोखाधड़ी के इतिहास में एक महत्वपूर्ण कदम था क्योंकि इसने आपराधिक खेल के मैदान के पैमाने को महत्वपूर्ण रूप से बदल दिया था। कृत्रिम बुद्धिमत्ता में वर्तमान विकास में समान क्षमता है: जैसे ही कोई एआई तकनीक होगी जो पूर्ण, स्वचालित खतरे उत्पन्न कर सकती है, इसका उपयोग किया जाएगा। क्लासिक धोखाधड़ी में जेनेरिक एआई तत्वों का वर्तमान में देखा गया एकीकरण, उदाहरण के लिए पीड़ितों को आकर्षित करने के लिए एआई-जनरेटेड टेक्स्ट या फोटो के माध्यम से, अभी शुरुआत है।
वर्तमान अनुसंधान परियोजना के इरादों के बारे में, गेलमैन कहते हैं: “वर्तमान परियोजना का संचालन करने का एक कारण अपराधियों से एक कदम आगे रहना है। बड़े पैमाने पर धोखाधड़ी वाली वेबसाइटें बनाने के लिए एक प्रणाली बनाकर जो अपराधियों द्वारा वर्तमान में उपयोग किए जाने वाले उपकरणों से अधिक उन्नत है, हमारे पास खतरे के फैलने से पहले उसका विश्लेषण करने और तैयार करने की एक अद्वितीय क्षमता है।
साइबर अपराधी जीपीटी एंड कंपनी की क्षमता पर सवाल उठाते हैं
अपने एआई अनुसंधान आक्रामक के दूसरे भाग में, सोफोस जबकि साइबर अपराधियों द्वारा एआई का उपयोग अपनी प्रारंभिक अवस्था में प्रतीत होता है, इन प्लेटफार्मों पर खतरे वाले कलाकार पहले से ही सोशल इंजीनियरिंग की क्षमता पर गहन चर्चा कर रहे हैं। इसका एक उदाहरण रोमांस घोटालों की वर्तमान "सुअर बुकिंग" लहर है।
इसके अलावा, सोफोस ने पाया कि समझौता किए गए चैटजीपीटी खातों से संबंधित अधिकांश पोस्ट बिक्री और "जेलब्रेक" के लिए हैं - एलएलएम में निर्मित सुरक्षा को बायपास करने के तरीके, जिससे साइबर अपराधियों को दुर्भावनापूर्ण उद्देश्यों के लिए टूल का दुरुपयोग करने की अनुमति मिलती है। अनुसंधान टीम को दस ChatGPT एप्लिकेशन भी मिले जिनके बारे में डेवलपर्स ने दावा किया था कि उनका उपयोग साइबर हमलों और मैलवेयर विकास के लिए किया जा सकता है। हालाँकि, ऐसे उपकरणों की प्रभावशीलता पर डार्क वेब समुदाय के कुछ हिस्सों द्वारा दृढ़ता से संदेह किया गया था और कभी-कभी इसे बेकार कार्यक्रमों के साथ धोखा देने के प्रयास के रूप में भी देखा जाता था।
कृत्रिम बुद्धिमत्ता के बारे में बहस
“जबकि हमने कुछ साइबर अपराधियों को एलएलएम का उपयोग करके मैलवेयर या हमला उपकरण बनाने का प्रयास करते देखा है, परिणाम अल्पविकसित थे और अक्सर अन्य उपयोगकर्ताओं से संदेह का सामना करना पड़ा। हमें समाज पर एआई के संभावित नकारात्मक प्रभाव और इसके उपयोग के नैतिक प्रभावों के बारे में कई पोस्ट भी मिलीं। दूसरे शब्दों में, कम से कम अभी के लिए, ऐसा प्रतीत होता है कि साइबर अपराधी कृत्रिम बुद्धिमत्ता के बारे में हममें से बाकी लोगों की तरह ही बहस कर रहे हैं, ”सोफोस में एक्स-ऑप्स अनुसंधान के निदेशक क्रिस्टोफर बड ने कहा।
एआई-जनरेटेड स्कैम वेबसाइटों और एलएलएम के प्रति खतरे वाले अभिनेताओं के रवैये के बारे में अधिक जानकारी के लिए, पूरी अंग्रेजी रिपोर्ट देखें "एआई का स्याह पक्ष: बड़े पैमाने पर घोटाला अभियान जनरेटिव एआई द्वारा संभव बनाया गया" und "साइबर अपराधी जीपीटी पर सहमत नहीं हो सकते" लगता है.
Sophos.com पर अधिक
सोफोस के बारे में सोफोस पर 100 देशों में 150 मिलियन से अधिक उपयोगकर्ता भरोसा करते हैं। हम जटिल आईटी खतरों और डेटा हानि के विरुद्ध सर्वोत्तम सुरक्षा प्रदान करते हैं। हमारे व्यापक सुरक्षा समाधानों को तैनात करना, उपयोग करना और प्रबंधित करना आसान है। वे उद्योग में स्वामित्व की सबसे कम कुल लागत की पेशकश करते हैं। सोफोस पुरस्कार विजेता एन्क्रिप्शन समाधान, एंडपॉइंट, नेटवर्क, मोबाइल डिवाइस, ईमेल और वेब के लिए सुरक्षा समाधान प्रदान करता है। मालिकाना विश्लेषण केंद्रों के हमारे वैश्विक नेटवर्क सोफोसलैब्स से भी समर्थन प्राप्त है। सोफोस का मुख्यालय बोस्टन, यूएसए और ऑक्सफोर्ड, यूके में है।