चैटबॉट्स: केवल मशीनें मदद करती हैं, मशीनें चलती हैं

ChatGPT जैसे चैटबॉट बढ़ रहे हैं: कृत्रिम बुद्धिमत्ता प्राकृतिक अज्ञानता का सामना कर सकती है। जब अन्य मशीनें उपयोगकर्ताओं को धोखा देने की कोशिश कर रही हैं, तो इसका पता लगाने के लिए तेजी से बुद्धिमान मशीनों की आवश्यकता होती है। सोफोस में साइबर सुरक्षा विशेषज्ञ चेस्टर विस्नियुस्की की एक टिप्पणी।

आर्टिफिशियल इंटेलिजेंस पर आधारित चैटबॉट चैटजीपीटी दुनिया भर में सुर्खियां बटोर रहा है - और शेयर बाजार और कॉपीराइट वातावरण में रिपोर्ट के अलावा, आईटी सुरक्षा भी चर्चाओं का केंद्र है। निर्माता के सभी सुरक्षा प्रयासों के बावजूद, हाल ही में महसूस किया गया, उपकरण की व्यापक उपलब्धता फ़िशिंग चारा या संवाद-उन्मुख धोखाधड़ी जैसे कि सामाजिक नेटवर्क के माध्यम से रोमांस घोटाले या ई-मेल के माध्यम से व्यापार-उन्मुख समझौता हमलों की बात आती है।

एआई द्वारा तैयार किए गए समझौतावादी हमले

"सबसे बड़े जोखिमों में से एक यह है कि हमलावर इन प्लेटफार्मों का उपयोग अपने फ़िशिंग लालच की गुणवत्ता में काफी सुधार करने के लिए करते हैं। यह फ़िशिंग हमलों को पहचानना मुश्किल बना देता है, यहां तक ​​कि चौकस उपयोगकर्ताओं के लिए भी, ”सोफोस के साइबर सुरक्षा विशेषज्ञ चेत विस्नियुस्की ने कहा। "आखिरकार, लगातार सुधार करने वाले एआई चैटबॉट सभी प्रकार के सोशल इंजीनियरिंग हमलों के लिए एक मुफ्त अपग्रेड प्रदान करते हैं। चैटजीपीटी जैसे कार्यक्रमों का उपयोग ईमेल के माध्यम से आपराधिक रूप से उन्मुख, अत्यधिक यथार्थवादी, इंटरैक्टिव वार्तालाप करने या फेसबुक मैसेंजर, व्हाट्सएप या अन्य चैट ऐप्स के माध्यम से चैट हमलों को लॉन्च करने के लिए किया जा सकता है।

आज सबसे बड़ा खतरा अंग्रेजी बोलने वाले लक्षित समूह के लिए है। हालाँकि, दुनिया में आमतौर पर बोली जाने वाली सभी भाषाओं में विश्वसनीय पाठ बनाने के लिए नए संस्करण उपलब्ध होने से पहले शायद यह केवल समय की बात है। हम एक ऐसे चरण पर पहुंच गए हैं जहां लोग मशीन-जनित गद्य और मानव-लिखित गद्य के बीच अंतर करने में तेजी से असमर्थ होते जा रहे हैं - खासकर जब हम दूसरे व्यक्ति को अच्छी तरह से नहीं जानते हैं।"

आईटी सुरक्षा के लिए एक महत्वपूर्ण मोड़

यह विकास कर्मचारी प्रशिक्षण और आईटी सुरक्षा के क्षेत्र में मौजूदा मानकों के लिए एक महत्वपूर्ण मोड़ का प्रतिनिधित्व करता है। वे दिन गए जब संगठन व्याकरण संबंधी त्रुटियों, वर्तनी की गलतियों, या अजीब वाक्यांशों को देखकर साइबर हमले से बचाव में सक्रिय भूमिका निभाने के लिए कर्मचारियों पर भरोसा कर सकते थे। प्रशिक्षण कार्यक्रमों के अंतिम कुशल तत्वों में से एक को ChatGPT जैसे चैटबॉट्स द्वारा कम आंका गया है - और बहुत प्रभावी ढंग से, जैसा कि निम्नलिखित दो उदाहरण बताते हैं।

बीईसी (बिजनेस ईमेल समझौता) स्कैमर से मूल डिकॉय टेक्स्ट हमलावर के खाते में किसी और के पेचेक को फ़नल करने का प्रयास करना "गैर-वास्तविक" के रूप में स्पॉट करना काफी आसान है। इसकी तुलना में, नीचे एक वैरिएंट है जिसे ChatGPT के संबंधित विषयगत प्रमुख बिंदुओं को दर्ज करके लिखा गया था।

हमलावर से डिफ़ॉल्ट घोटाला ईमेल

नमस्ते …।,

मैंने अपने बैंकों को बदल दिया है क्योंकि मेरा पुराना खाता अब डीडी भुगतान स्वीकार करने के लिए अच्छा नहीं है और मैं अपनी तनख्वाह के सीधे जमा विवरण को बदलना चाहता हूं, क्या परिवर्तन वर्तमान भुगतान तिथि के लिए प्रभावी हो सकता है?

धन्यवाद, …।

एआई चैटजीपीटी द्वारा लिखित पाठ

🔎 एआई चैटजीपीटी द्वारा लिखा गया पाठ भ्रामक रूप से वास्तविक लगता है (छवि: सोफोस)। 

प्रिय मानव संसाधन,

मैं यह अनुरोध करने के लिए लिख रहा हूं कि आप कंपनी के पेरोल सिस्टम में मेरी प्रत्यक्ष जमा जानकारी को अपडेट करें। मेरी वर्तमान बैंक खाता जानकारी अब मान्य नहीं है और मैं एक नए बैंक में जा रहा हूं।

क्या आप कृपया मुझे बता सकते हैं कि मेरी प्रत्यक्ष जमा जानकारी को अपडेट करने के लिए आपको कौन सी जानकारी चाहिए? मुझे कोई आवश्यक विवरण प्रदान करने में प्रसन्नता हो रही है।

मैं यह भी अनुरोध करना चाहता हूं कि यह अद्यतन अगली पेरोल अवधि के लिए समय पर किया जाए। क्या एक सहज संक्रमण सुनिश्चित करने के लिए मुझे कुछ और करने की आवश्यकता है?

इस बात की ओर आपका ध्यान के लिए धन्यवाद। मैं यह सुनिश्चित करने में आपकी मदद की सराहना करता हूं कि मेरी तनख्वाह सही खाते में जमा हो गई है।

निष्ठा से,

[आपका नाम]

"उदाहरण वास्तविक व्यक्ति के ईमेल की तरह लगता है, इसमें अच्छा विराम चिह्न, वर्तनी और व्याकरण है। क्या वह परिपूर्ण है नहीं। क्या वह काफी अच्छी है? किसी भी स्थिति में! स्कैमर्स पहले से ही अपने खराब तरीके से तैयार किए गए डिकॉय से लाखों कमा रहे हैं, इस एआई-पुश संचार के नए आयाम की कल्पना करना आसान है। इस बॉट के साथ WhatsApp या Microsoft Teams के माध्यम से चैट करने की कल्पना करें। क्या उन्होंने मशीन को पहचान लिया होगा?" विस्निवस्की चैटबॉट के साथ अपने "रचनात्मक कार्य" के बारे में कहते हैं।

एआई उपयोगकर्ताओं को लगभग पूरी तरह से मूर्ख बना सकता है

तथ्य यह है कि एआई के क्षेत्र में लगभग सभी प्रकार के अनुप्रयोग पहले ही एक ऐसे बिंदु पर पहुंच चुके हैं जहां वे लगभग 100% समय मानव को मूर्ख बना सकते हैं। चैटजीपीटी के साथ हो सकने वाली "बातचीत" की गुणवत्ता उल्लेखनीय है, और नकली मानव चेहरे उत्पन्न करने की क्षमता जो वास्तविक तस्वीरों से लगभग अप्रभेद्य (मनुष्यों के लिए) हैं, उदाहरण के लिए, पहले से ही एक वास्तविकता है। ऐसी तकनीकों की आपराधिक क्षमता बहुत अधिक है, जैसा कि एक उदाहरण स्पष्ट करता है: अपराधी जो एक शेल कंपनी के माध्यम से धोखाधड़ी करना चाहते हैं, वे केवल 25 चेहरे उत्पन्न करते हैं और अपनी जीवनी लिखने के लिए चैटजीपीटी का उपयोग करते हैं। कुछ नकली लिंक्डइन खाते जोड़ें और आप तैयार हैं।

इसके विपरीत, "अच्छे पक्ष" को भी इसका सामना करने में सक्षम होने के लिए प्रौद्योगिकी की ओर मुड़ना चाहिए। विस्निवस्की ने कहा, "अगर हम इंटरनेट के तेजी से खतरनाक पानी को बहादुर बनाने जा रहे हैं, तो हम सभी को अपने आयरन मैन सूट पहनने की जरूरत है।" "ऐसा लग रहा है कि हमें यह पता लगाने के लिए मशीनों की आवश्यकता है कि अन्य मशीनें कब हमें बेवकूफ बनाने की कोशिश कर रही हैं। हगिंग फेस द्वारा अवधारणा का एक दिलचस्प प्रमाण विकसित किया गया था, जो GPT-2 के साथ उत्पन्न पाठ को पहचान सकता है - यह सुझाव देता है कि GPT-3 आउटपुट को पहचानने के लिए समान तकनीकों का उपयोग किया जा सकता है।

दुखद लेकिन सच: एआई ने एंड-यूज़र सुरक्षा जागरूकता के ताबूत में अंतिम कील ठोंक दी है।

क्या मैं यह कह रहा हूं कि हमें इसे पूरी तरह बंद कर देना चाहिए? नहीं, लेकिन हमें अपनी उम्मीदें कम करनी होंगी। यह निश्चित रूप से आईटी सुरक्षा के संदर्भ में सर्वोत्तम प्रथाओं का पालन करने में चोट नहीं करता है जो अब भी लागू हैं और अक्सर लागू होते हैं। हमें उपयोगकर्ताओं को पहले की तुलना में और भी अधिक संदिग्ध होने के लिए प्रोत्साहित करने की आवश्यकता है, और सबसे महत्वपूर्ण बात यह है कि व्यक्तिगत जानकारी या मौद्रिक वस्तुओं तक पहुंच वाले संदेशों की सावधानीपूर्वक जांच करें। यह सवाल पूछने, मदद मांगने और अतिरिक्त समय के उन कुछ क्षणों को लेने के बारे में है जो यह पुष्टि करने के लिए आवश्यक हैं कि चीजें वास्तव में वैसी ही हैं जैसी वे दिखती हैं। यह व्यामोह नहीं है, यह बदमाशों द्वारा नहीं काटे जाने की इच्छा है।

विषय से संबंधित लेख