आर्टिफिशियल इंटेलिजेंस यानी AI की क्षमता जिस तेजी से बढ़ रही है, उसने जहां टेक्नोलॉजी की दुनिया में नई संभावनाएं पैदा की हैं, वहीं इसके खतरों को लेकर चिंता भी बढ़ने लगी है। टेक कंपनियों से लेकर आम यूजर्स तक AI का इस्तेमाल तेजी से बढ़ रहा है। इसी बीच Anthropic के एक प्रमुख AI Safety रिसर्चर ने भविष्य को लेकर ऐसी चिंता जाहिर की है, जिसने AI और मानव अस्तित्व को लेकर नई बहस छेड़ दी है।
क्या AI इंसानों के अस्तित्व के लिए बन सकता है खतरा?
Anthropic के AI Alignment रिसर्चर Evan Hubinger ने सोशल मीडिया प्लेटफॉर्म X पर AI की तेजी से बढ़ती क्षमता को लेकर अपनी चिंता जाहिर की है। उनके मुताबिक, मौजूदा AI मॉडल्स से फिलहाल इंसानों के लिए बहुत बड़ा खतरा नहीं है, लेकिन भविष्य में अगर AI खुद को लगातार बेहतर बनाने और अपनी क्षमताओं को बढ़ाने में सक्षम हो जाता है, तो स्थिति गंभीर हो सकती है।
Hubinger का अनुमान है कि अगले 10 वर्षों में AI की वजह से इंसानी सभ्यता के खत्म होने का जोखिम 10 फीसदी से ज्यादा हो सकता है। उनका मानना है कि यदि AI अपनी शक्ति को बढ़ाने के साथ-साथ खुद में सुधार करने की क्षमता हासिल कर लेता है, तो यह मानव जाति के सामने एक बेहद बड़ा खतरा पैदा कर सकता है।
AI Agents और Cyber Attack ने बढ़ाई चिंता
AI Safety को लेकर चिंता ऐसे समय बढ़ रही है, जब AI एजेंट्स से जुड़ी साइबर सुरक्षा गतिविधियों के कई मामले सामने आ रहे हैं। AI एजेंट्स ऐसे सिस्टम होते हैं जो इंसानों के निर्देश के बाद कई तरह के काम खुद करने की क्षमता रखते हैं और कुछ परिस्थितियों में लगातार कई चरणों वाले कार्यों को भी स्वायत्त रूप से पूरा कर सकते हैं।
हाल के महीनों में OpenAI, Anthropic और Meta की ओर से अपने AI सिस्टम या टूल्स से संबंधित हैकिंग और साइबर गतिविधियों के मामलों का खुलासा किया गया है। इन घटनाओं ने इस सवाल को और गंभीर बना दिया है कि भविष्य में अधिक शक्तिशाली और स्वायत्त AI सिस्टम का गलत इस्तेमाल होने पर इसके क्या परिणाम हो सकते हैं।
क्या दुनिया Superintelligence के लिए तैयार है?
Evan Hubinger ने AI Alignment को लेकर भी चिंता जताई है। AI Alignment का उद्देश्य यह सुनिश्चित करना है कि ज्यादा शक्तिशाली AI सिस्टम इंसानों की इच्छाओं और हितों के अनुरूप काम करें, न कि उनके खिलाफ।
उनके मुताबिक, AI कंपनियां सुरक्षा और Alignment पर लगातार काम कर रही हैं, लेकिन Superintelligence के संभावित खतरों को पूरी तरह नियंत्रित करने के लिए अभी पर्याप्त समाधान मौजूद नहीं हैं। उनका मानना है कि इंसानों के पास फिलहाल ऐसी स्पष्ट योजना नहीं है, जिसके आधार पर भविष्य में बेहद शक्तिशाली AI सिस्टम से पैदा होने वाले सभी जोखिमों को नियंत्रित किया जा सके।
इसी वजह से यह सवाल उठ रहा है कि क्या मानव समाज Superintelligence के दौर के लिए वास्तव में तैयार है।
Anthropic की Safety Report में भी चेतावनी
AI से जुड़े संभावित खतरों को लेकर Anthropic की ओर से भी अपनी Safety Report में चिंता जाहिर की गई है। अगस्त में जारी रिपोर्ट में भविष्य में AI सिस्टम के अधिक शक्तिशाली होने से पैदा होने वाले संभावित जोखिमों का उल्लेख किया गया था।
रिपोर्ट में यह संभावना बताई गई थी कि यदि AI सिस्टम अपनी क्षमताओं को काफी अधिक बढ़ाने और खुद को अधिक शक्तिशाली बनाने में सक्षम हो जाते हैं, तो भविष्य में इससे इंसानों के लिए गंभीर खतरे पैदा हो सकते हैं।
हालांकि, मौजूदा AI सिस्टम और भविष्य की संभावित Superintelligence के बीच बड़ा अंतर है। इसलिए AI के कारण मानव अस्तित्व पर कितना वास्तविक खतरा है, यह अभी निश्चित तौर पर कहना संभव नहीं है। लेकिन AI Safety विशेषज्ञों की ऐसी चेतावनियां इस बात पर जोर देती हैं कि AI के विकास के साथ उसकी सुरक्षा और नियंत्रण पर भी उतना ही ध्यान देना जरूरी है।
फोन में NFC है या नहीं? ऐसे करें Check, Payment से लेकर Smart Devices तक जानें इसके बड़े फायदे
राष्ट्रबंधु की नवीनतम अपडेट्स पाने के लिए हमारा Facebook पेज लाइक करें, WhatsApp व YouTube पर हमें सब्सक्राइब करें, और अपने पसंदीदा आर्टिकल्स को शेयर करना न भूलें।
CHECK OUT LATEST SHOPPING DEALS & OFFERS
