ChatGPT के संस्करण 4 के लिए अपडेट का बेसब्री से इंतजार किया गया था और निर्माता Open AI के अनुसार, "सबसे उन्नत" AI तकनीक का प्रतिनिधित्व करने के लिए कहा जाता है और यहां तक कि एक परीक्षा में शीर्ष अंकों के साथ एक बार परीक्षा भी उत्तीर्ण की। हालांकि, एक साक्षात्कार में सोफोस सुरक्षा विशेषज्ञ चेस्टर विस्निवस्की के अनुसार, केवल एक चीज जो चैटजीपीटी को फिर से बना सकती है, वह झूठ है जो तथ्यात्मक ग्रंथों में शायद ही पहचानने योग्य है।
आईटी सुरक्षा उद्योग का एक प्रतिनिधि चैट एआई में तेजी से विकास को कैसे देखता है और वह परिणामी अवसरों और संभावित नुकसानों को कैसे वर्गीकृत करता है? सोफोस के प्रधान शोधकर्ता चेस्टर विस्निवस्की ने कुछ सवालों के जवाब दिए। उनका निष्कर्ष: लाभ शायद नुकसान से अधिक है।
GPT 3 और नए GPT 4 में क्या अंतर हैं?
बहुत कुछ बदल गया है और सुधर गया है, लेकिन सब कुछ ज्ञात नहीं है। OpenAI अपने कार्ड्स को पहले की तुलना में इस रिलीज़ के साथ थोड़ा सख्त रख रहा है, इसलिए सभी सुधारों को प्रचारित नहीं किया गया है। कुल मिलाकर, यह पिछले संस्करणों की तुलना में अधिक स्मार्ट, अधिक सटीक और अधिक सक्षम लगता है, जिससे प्रतिक्रियाओं को और अधिक यथार्थवादी और सक्षम बनाना चाहिए। यह याद रखना अभी भी महत्वपूर्ण है कि हालांकि झूठी सूचना फैलाने की संभावना कम है, फिर भी यह एक बहुत अच्छा झूठा है।
क्या इस तरह के जनरेटिव, पूर्व-प्रशिक्षित ट्रांसफॉर्मर को सार्वजनिक रूप से उपलब्ध कराना नैतिक है?
वह बुरे लोगों के लिए उतना ही उपलब्ध है जितना अच्छे लोगों के लिए। तकनीकी प्रगति बोतल में जिन्न की तरह है। असहज होने पर आप इसे दूर नहीं रख सकते। OpenAI जिस सुरक्षा को लागू करने की कोशिश कर रहा है, उसके साथ उपलब्ध ChatGPT जैसे उपकरण अच्छे से अधिक नुकसान करने की संभावना नहीं है। जबकि एआई का आपराधिक दुरुपयोग अपरिहार्य है, इन उपकरणों के जिम्मेदार उपयोग से जो अच्छा हो सकता है वह किसी भी दुरुपयोग से कहीं अधिक होगा।
ऐसा लगता है कि सिस्टम के गार्ड रेल को तोड़ने वाली त्वरित इंजीनियरिंग के पहले से ही कई उदाहरण हैं, और अप्रत्यक्ष शीघ्र इंजेक्शन का कम से कम एक उदाहरण है। क्या आपको लगता है कि कभी ऐसा GPT मॉडल बनाना संभव होगा जिसका दुरुपयोग न किया जा सके?
🔎 साक्षात्कार: सोफोस सुरक्षा विशेषज्ञ चेस्टर विस्नियुस्की (छवि: सोफोस)।
नहीं। एक अधिक विस्तृत उत्तर शायद अब और अधिक स्वागत योग्य होगा, लेकिन किसी भी प्रणाली को दुरुपयोग को रोकने के लिए डिज़ाइन किया गया है, लेकिन सिस्टम को स्वायत्त रूप से काम करने की अनुमति देने के लिए भी डिज़ाइन किया गया है, यह हमेशा ही बचाव योग्य होगा। लेकिन जैसा कि OpenAI और अन्य AI शोधकर्ता इस बारे में अधिक सीखते हैं कि लोग अपने बचाव को कैसे दरकिनार करते हैं, यह और अधिक कठिन हो जाता है। मैं आशा और उम्मीद करता हूं कि भविष्य में साइबर अपराध की ओर से काफी अधिक निपुणता की आवश्यकता होगी। हालांकि, सिस्टम से समझौता करना अभी भी संभव होगा।
क्या चैटजीपीटी कुछ नया बना रहा है, या बस वही कर रहा है जो उसे बताया गया है? क्या होगा अगर मॉडल ने गलतियाँ सीख ली हैं या सिखाई गई हैं?
केवल एक चीज जिसे चैटजीपीटी फिर से बना सकता है वह है झूठ। यह एक बहुत ही भरोसेमंद झूठा है जो मुझे पता है कि सबसे अच्छे narcissists को टक्कर देता है। मॉडल को निश्चित रूप से ऐसी चीजें भी सिखाई गई हैं जो गलत या असत्य हैं, और यह अनुमान लगाना लगभग असंभव है कि वह इन तथ्यात्मक अशुद्धियों को अपने उत्तरों में कब शामिल करेगा।
बिग एआई का स्वामित्व बिग टेक के पास होगा। जबकि संकेतों में निहित व्यक्तिगत और संवेदनशील कंपनी डेटा विशेष AI मॉडल में फीड नहीं हो सकता है, यह निश्चित रूप से बड़ी टेक कंपनियों के लिए उपलब्ध होगा। और बड़े टेक मालिकों का बिजनेस मॉडल अक्सर ऐसे डेटा को उच्चतम बोली लगाने वाले को बेचने पर निर्भर करता है। क्या GPT-शैली के सार्वजनिक AI के गोपनीयता पहलुओं के बारे में कुछ किया जा सकता है?
एआई सिस्टम के अधिकांश उपयोगकर्ताओं के लिए आज चैटजीपीटी जैसे मॉडल का उपयोग करने के लिए उन वादों और लाइसेंस समझौतों पर भरोसा करने के अलावा कोई विकल्प नहीं है। हालाँकि, इनमें से कई मॉडल अविश्वसनीय रूप से कुशलता से विकसित हो रहे हैं, इसलिए कोई कारण नहीं है कि वे भविष्य में हमारे पीसी, लैपटॉप या यहां तक कि फोन पर नहीं चल सकते। मॉडलों का प्रशिक्षण कम्प्यूटेशनल रूप से गहन है, लेकिन इसे क्रियान्वित करना नहीं है। पुराने मॉडलों को ओपन सोर्स या क्राउडसोर्स के रूप में पेश किया जा सकता है ताकि वे उन सभी के लिए उपलब्ध हों जो उनका उपयोग करना चाहते हैं। सबसे अत्याधुनिक मॉडल बड़े तकनीकी दिग्गजों के हाथों में रहने की संभावना है, लेकिन यदि आप चाहें तो मॉडल जो "पर्याप्त अच्छे" से अधिक हैं, आपकी जेब में आईफोन पर चल सकते हैं।
Sophos.com पर अधिक
सोफोस के बारे में सोफोस पर 100 देशों में 150 मिलियन से अधिक उपयोगकर्ता भरोसा करते हैं। हम जटिल आईटी खतरों और डेटा हानि के विरुद्ध सर्वोत्तम सुरक्षा प्रदान करते हैं। हमारे व्यापक सुरक्षा समाधानों को तैनात करना, उपयोग करना और प्रबंधित करना आसान है। वे उद्योग में स्वामित्व की सबसे कम कुल लागत की पेशकश करते हैं। सोफोस पुरस्कार विजेता एन्क्रिप्शन समाधान, एंडपॉइंट, नेटवर्क, मोबाइल डिवाइस, ईमेल और वेब के लिए सुरक्षा समाधान प्रदान करता है। मालिकाना विश्लेषण केंद्रों के हमारे वैश्विक नेटवर्क सोफोसलैब्स से भी समर्थन प्राप्त है। सोफोस का मुख्यालय बोस्टन, यूएसए और ऑक्सफोर्ड, यूके में है।