शीर्ष शोधकर्ताओं, विशेषज्ञों और सीईओ (ओपनएआई के सैम ऑल्टमैन सहित) ने चेतावनी दी है कि कृत्रिम बुद्धिमत्ता मानवता के विलुप्त होने का कारण बन सकती है। 22 शब्दों के एक बयान में उन्होंने कहा कि “महामारी और परमाणु युद्ध जैसे अन्य सामाजिक-स्तर के जोखिमों के साथ एआई से विलुप्त होने के जोखिम को कम करना एक वैश्विक प्राथमिकता होनी चाहिए।”
बयान यूएस-आधारित गैर-लाभकारी संस्था, सेंटर फॉर एआई सेफ्टी द्वारा प्रकाशित किया गया था, और Google डीपमाइंड के सीईओ डेमिस हसाबिस के साथ-साथ जेफ्री हिंटन और यूशुआ बेंगियो द्वारा सह-हस्ताक्षरित किया गया था, तीन एआई शोधकर्ताओं में से दो ने 2018 ट्यूरिंग अवार्ड जीता था। एआई पर काम करें।
केंद्र ने कहा, “एआई विशेषज्ञ, पत्रकार, नीति निर्माता और जनता एआई से महत्वपूर्ण और तत्काल जोखिमों के व्यापक स्पेक्ट्रम पर चर्चा कर रहे हैं। फिर भी, उन्नत एआई के कुछ सबसे गंभीर जोखिमों के बारे में चिंताओं को आवाज देना मुश्किल हो सकता है।” .
बयान “इस बाधा को दूर करने और चर्चा को खोलने का लक्ष्य है”।
हितधारकों ने कहा कि यह विशेषज्ञों और सार्वजनिक हस्तियों की बढ़ती संख्या के बारे में सामान्य ज्ञान बनाने के लिए भी है, जो उन्नत एआई के कुछ सबसे गंभीर जोखिमों को भी गंभीरता से लेते हैं।
इस साल मार्च में, कई शीर्ष उद्यमियों और एआई शोधकर्ताओं सहित टेस्ला के सीईओ मस्क और स्टीव वोज्नियाक, के सह-संस्थापक Apple एक खुला पत्र लिखा, जिसमें सभी एआई प्रयोगशालाओं को कम से कम छह महीने के लिए GPT-4 से अधिक शक्तिशाली AI सिस्टम के प्रशिक्षण को तुरंत रोकने के लिए कहा गया।
पिछले हफ्ते, ऑल्टमैन ने कहा कि अब अधीक्षण के शासन के बारे में सोचना शुरू करने का एक अच्छा समय है – भविष्य के एआई सिस्टम नाटकीय रूप से कृत्रिम सामान्य बुद्धि (एजीआई) से भी अधिक सक्षम हैं।
ऑल्टमैन ने जोर देकर कहा कि दुनिया को आज के जोखिमों को कम करना चाहिए एआई तकनीक भी, “लेकिन अधीक्षण को विशेष उपचार और समन्वय की आवश्यकता होगी”।
“अस्तित्वगत जोखिम की संभावना को देखते हुए, हम सिर्फ प्रतिक्रियाशील नहीं हो सकते। परमाणु ऊर्जा इस संपत्ति के साथ एक तकनीक का आमतौर पर इस्तेमाल किया जाने वाला ऐतिहासिक उदाहरण है; सिंथेटिक जीव विज्ञान एक और उदाहरण है,” उन्होंने कहा।
ऑल्टमैन ने पहले स्वीकार किया था कि अगर एआई तकनीक गलत हो जाती है, तो यह काफी गलत हो सकती है, क्योंकि अमेरिकी सीनेटरों ने चैटजीपीटी जैसे एआई चैटबॉट्स के बारे में अपनी आशंका व्यक्त की थी।
