‘अगर एआई गलत हो जाता है, तो यह काफी गलत हो सकता है’: यहां अमेरिकी कांग्रेस में चैटजीपीटी सीईओ की पूरी गवाही है

कंपनी OpenAI के मुख्य कार्यकारी सैमुअल अल्टमैन, जो आर्टिफिशियल इंटेलिजेंस चैटबॉट ChatGPT के मालिक हैं, ने आसन्न चुनौतियों और AI तकनीक के भविष्य पर यूनाइटेड स्टेट्स कांग्रेस के सामने गवाही दी। निरीक्षण सुनवाई एआई के नियमों को लिखने के इरादे से सुनवाई की श्रृंखला में पहली थी।

ऑल्टमैन की गवाही के कुछ प्रमुख अंश इस प्रकार हैं:

एआई-जनित उद्घाटन टिप्पणी

अमेरिकी सीनेटर रिचर्ड ब्लुमेंथल ने एक कंप्यूटर जनित आवाज से “परिचयात्मक टिप्पणी” के साथ एक ऑडियो क्लिप चलाया, जो उनकी तरह ही लग रहा था। उन्होंने खुलासा किया कि ऑडियो वॉयस क्लोनिंग सॉफ्टवेयर द्वारा बनाया गया था, जिसमें चैटजीपीटी द्वारा लिखे गए शब्द थे।

और पढ़ें: सीधे शब्दों में कहें: मजदूर दिवस 2023

सोशल मीडिया की गलतियों से सीख

सीनेटर ने कहा कि कांग्रेस ने अपनी स्थापना के समय सोशल मीडिया को विनियमित करने का अवसर गंवा दिया, जिसके कारण सोशल मीडिया प्लेटफॉर्म पर गलत सूचना और डेटा गोपनीयता जैसे मुद्दे सामने आए।

परमाणु बम या प्रिंटिंग प्रेस

सीनेटर जोश हॉली ने पूछा कि क्या चैटजीपीटी प्रिंटिंग प्रेस या परमाणु बम के समान था। ऑल्टमैन ने कहा कि यह एक प्रिंटिंग-प्रेस पल हो सकता है, लेकिन एआई द्वारा उत्पन्न खतरे को स्वीकार किया। ऑल्टमैन ने कहा, “अगर यह तकनीक गलत हो जाती है, तो यह काफी गलत हो सकती है।”

नौकरी पर खतरा

Altman ने स्वीकार किया कि GPT-4 कुछ नौकरियों को पूरी तरह से स्वचालित कर देगा, लेकिन यह नए लोगों को पैदा कर सकता है जो कि संस्थापक को लगता है कि बहुत बेहतर हैं।

नियामक हस्तक्षेप

सीईओ ने एआई को विनियमित करने के विचार का समर्थन किया जो नुकसान को कम करते हुए परिवर्तनकारी प्रौद्योगिकी के लाभों को अधिकतम करेगा।

और पढ़ें: थर्टी एआई: चैटजीपीटी 20-50 सवालों के जवाब देने के लिए आधा लीटर ताजा पानी पीता है, अध्ययन कहता है

यहाँ कांग्रेस में ऑल्टमैन की गवाही का पूर्ण असंपादित प्रतिलेख है.

धन्यवाद। धन्यवाद, अध्यक्ष ब्लूमेंथल, रैंकिंग सदस्य हॉली, न्यायपालिका समिति के सदस्य। इस बारे में आज आपसे बात करने के अवसर के लिए धन्यवाद। यहां होना वास्तव में सम्मान की बात है।

मेरा नाम सैम ऑल्टमैन है। मैं OpenAI का मुख्य कार्यकारी अधिकारी हूं। OpenAI की स्थापना इस विश्वास पर की गई थी कि आर्टिफिशियल इंटेलिजेंस में हमारे जीवन के लगभग हर पहलू को बेहतर बनाने की क्षमता है। लेकिन यह भी कि यह गंभीर जोखिम पैदा करता है जिसे प्रबंधित करने के लिए हमें मिलकर काम करना होगा।

हम यहां इसलिए हैं क्योंकि लोग इस तकनीक को पसंद करते हैं, हमें लगता है कि यह प्रिंटिंग प्रेस का क्षण हो सकता है। इसे बनाने के लिए हमें मिलकर काम करना होगा। OpenAI एक असामान्य कंपनी है। और हम इसे इस तरह सेट करते हैं क्योंकि AI एक असामान्य तकनीक है।

हम एक गैर-लाभकारी संस्था द्वारा शासित होते हैं और हमारी गतिविधियाँ हमारे मिशन और हमारे चार्टर द्वारा संचालित होती हैं। जो हमें यह सुनिश्चित करने के लिए काम करने के लिए प्रतिबद्ध करता है कि व्यापक एआई के लाभों का वितरण और AI सिस्टम की सुरक्षा को अधिकतम करने के लिए।

हम ऐसे उपकरण बनाने के लिए काम कर रहे हैं जो एक दिन हमें नई खोज करने में मदद कर सकते हैं और जलवायु परिवर्तन और कैंसर का इलाज जैसी मानवता की कुछ सबसे बड़ी चुनौतियों का समाधान कर सकते हैं।

हमारी वर्तमान प्रणालियाँ अभी तक इन चीजों को करने में सक्षम नहीं हैं, लेकिन यह देखकर बहुत खुशी होती है कि दुनिया भर में बहुत से लोगों को यह देखकर बहुत खुशी होती है कि ये प्रणालियाँ आज क्या कर सकती हैं।

हम यह देखना पसंद करते हैं कि लोग हमारे टूल का उपयोग बनाने, सीखने और अधिक उत्पादक बनने के लिए करते हैं। हम बहुत आशान्वित हैं कि वे भविष्य में शानदार नौकरियां होने जा रहे हैं और वर्तमान नौकरियां बहुत बेहतर हो सकती हैं।

हम भी क्या देखना पसंद करते हैं डेवलपर्स जीवन को बेहतर बनाने के लिए कर रहे हैं. उदाहरण के लिए, Be My Eyes ने GPT-4 में हमारी नई मल्टीमॉडल तकनीक का इस्तेमाल किया, ताकि दृष्टिबाधित व्यक्तियों को अपने वातावरण को नेविगेट करने में मदद मिल सके।

और पढ़ें: बड़े डेटा का स्याह पक्ष

हमारा मानना ​​है हमारे द्वारा तैनात किए गए उपकरणों के लाभ अभी तक जोखिमों से काफी अधिक है लेकिन उनकी सुरक्षा सुनिश्चित करना हमारे काम के लिए महत्वपूर्ण है। और हम यह सुनिश्चित करने के लिए महत्वपूर्ण प्रयास करते हैं कि सुरक्षा हमारे सिस्टम में सभी स्तरों पर अंतर्निहित है।

किसी भी नई प्रणाली को जारी करने से पहले, OpenAI महंगा परीक्षण करता है – व्यापक परीक्षण, बाहरी विशेषज्ञों को शामिल करता है, मॉडल के व्यवहार में सुधार करता है और मजबूत सुरक्षा और निगरानी प्रणाली को लागू करता है।

हमारे नवीनतम मॉडल GPT-4 को रिलीज़ करने से पहले, हमने व्यापक मूल्यांकन, बाहरी रेड टीमिंग और खतरनाक क्षमता परीक्षण करने में छह महीने से अधिक का समय लगाया। हमने जो प्रगति की है उस पर हमें गर्व है। समान क्षमता वाले किसी भी अन्य मॉडल की तुलना में GPT-4 के मददगार और सच्चाई से जवाब देने और हानिकारक अनुरोधों को अस्वीकार करने की अधिक संभावना है।

हालांकि, हमें लगता है कि तेजी से शक्तिशाली मॉडल के जोखिमों को कम करने के लिए सरकारों द्वारा नियामक हस्तक्षेप महत्वपूर्ण होगा। उदाहरण के लिए, अमेरिकी सरकार क्षमताओं की सीमा से ऊपर एआई मॉडल के विकास और रिलीज के लिए लाइसेंसिंग और परीक्षण आवश्यकताओं के संयोजन पर विचार कर सकती है।

मैंने अपनी लिखित गवाही में कई अन्य क्षेत्रों का उल्लेख किया है जहां मेरा मानना ​​है कि हमारी जैसी कंपनियां सरकारों के साथ भागीदारी कर सकती हैं, जिसमें यह सुनिश्चित करना भी शामिल है कि सबसे शक्तिशाली एआई मॉडल सुरक्षा आवश्यकताओं के एक सेट का पालन करते हैंसुरक्षा उपायों को विकसित करने और अद्यतन करने के लिए प्रक्रियाओं को सुगम बनाना और वैश्विक समन्वय के अवसरों की जांच करना।

और पढ़ें: मशीनों का उदय: भारत को डरने की आवश्यकता क्यों नहीं है

और जैसा कि आपने उल्लेख किया, मुझे लगता है कि यह महत्वपूर्ण है कि यहां कंपनियों की अपनी जिम्मेदारी है, चाहे कांग्रेस कुछ भी करे।

यह आर्टिफिशियल इंटेलिजेंस पर काम करने का एक उल्लेखनीय समय है। लेकिन जैसे-जैसे यह तकनीक आगे बढ़ती है, हम समझते हैं कि लोग इस बात को लेकर चिंतित हैं कि यह हमारे जीने के तरीके को कैसे बदल सकता है। हम भी हैं। लेकिन हमारा मानना ​​है कि संभावित कमियों की पहचान करने और उनका प्रबंधन करने के लिए हमें मिलकर काम करना चाहिए और करना चाहिए ताकि हम सभी जबरदस्त उछाल का आनंद उठा सकें।

यह आवश्यक है कि शक्तिशाली एआई को लोकतांत्रिक मूल्यों को ध्यान में रखते हुए विकसित किया जाए और इसका मतलब यह है कि अमेरिकी नेतृत्व महत्वपूर्ण है।

मुझे विश्वास है कि हम अपने सामने आने वाले जोखिमों को कम करने में सक्षम होंगे और अमेरिकी अर्थव्यवस्था और दुनिया को विकसित करने के लिए प्रौद्योगिकी क्षमता को भुनाने में सक्षम होंगे और मैं इस क्षण को पूरा करने के लिए आपके साथ काम करने के लिए उत्सुक हूं और मैं आपके सवालों का जवाब देने के लिए उत्सुक हूं। धन्यवाद।

और पढ़ें: