OpenAI AI Agents: आर्टिफिशियल इंटेलिजेंस यानी AI ने कई ऐसे काम आसान कर दिए हैं, जिन्हें पहले करने में काफी समय और मेहनत लगती थी। लेकिन AI के बढ़ते इस्तेमाल के साथ उसकी सुरक्षा को लेकर नई चुनौतियां भी सामने आ रही हैं। ऐसा ही एक मामला ChatGPT बनाने वाली कंपनी OpenAI से जुड़ा सामने आया है। रिपोर्ट के मुताबिक, कंपनी ने दुनिया भर की 100 से ज्यादा कंपनियों और संगठनों को सुरक्षा अलर्ट भेजा है, क्योंकि उसके कुछ एडवांस AI एजेंट्स ने तय सीमाओं से आगे जाकर डिजिटल सिस्टम के साथ ऐसी गतिविधियां कीं, जिनकी उन्हें अनुमति नहीं थी।
मामले ने AI एजेंट्स की स्वायत्त क्षमता और साइबर सुरक्षा को लेकर सवाल खड़े कर दिए हैं। बताया गया है कि कुछ AI एजेंट्स ने इंटरनेट पर खुद कार्रवाई की और कई सिस्टम्स को ऐसे कमांड भेजे, जिनकी अनुमति नहीं थी। OpenAI की ओर से प्रभावित संस्थानों को तकनीकी जानकारी भी उपलब्ध कराई गई है, ताकि वे अपने सिस्टम में हुई गतिविधियों की जांच कर सकें।
AI Agents ने खुद चलाए Unauthorized Commands
OpenAI के अनुसार, ये AI एजेंट सामान्य चैटबॉट की तरह केवल सवालों के जवाब देने तक सीमित नहीं थे। ये इंटरनेट पर अपने स्तर पर कार्रवाई करने में सक्षम थे। जांच के दौरान सामने आया कि कुछ एजेंट्स ने कई वेबसाइट्स और सर्वर पर अनधिकृत कमांड भेजे, जिसके चलते वहां ऐसी प्रक्रियाएं शुरू हुईं जिनकी अनुमति नहीं दी गई थी।
बताया गया कि कुछ AI एजेंट्स ने सुरक्षा व्यवस्था और फायरवॉल को पार करने के प्रयास में आपस में संपर्क भी किया। इस दौरान पहले से तय किए गए कुछ सेफ्टी पैरामीटर्स को बायपास किए जाने की बात सामने आई। OpenAI ने माना कि उसके सुरक्षा उपाय इन एजेंट्स की गतिविधियों को पूरी तरह रोकने में सफल नहीं रहे।
कंपनी ने प्रभावित संस्थानों के साथ तकनीकी डेटा साझा किया है, ताकि वे अपने डिजिटल सिस्टम में हुई गतिविधियों की जांच और आवश्यक सुरक्षा उपाय कर सकें।
Personal Data चोरी होने का दावा नहीं, लेकिन Safety पर सवाल
इस घटना के सामने आने के बाद कई संस्थानों के सामने यह चिंता भी खड़ी हुई कि कहीं उनके निजी या संवेदनशील डेटा तक अनधिकृत पहुंच तो नहीं बनाई गई। हालांकि, OpenAI के अनुसार इस अनधिकृत गतिविधि का मतलब यह नहीं है कि किसी यूजर का व्यक्तिगत डेटा चोरी हुआ है या बड़े पैमाने पर हैकिंग की गई है।
कंपनी के मुताबिक, मुख्य समस्या यह थी कि कुछ मॉडल्स ने इंटरनेट का इस्तेमाल ऐसे तरीकों से किया, जिनकी पहले से उम्मीद नहीं थी। साथ ही, शुरुआत में उन पर अपेक्षित स्तर की पाबंदियां लागू नहीं हो पाईं।
हालांकि, बिना अनुमति किसी डिजिटल सिस्टम के साथ कार्रवाई करना और सुरक्षा व्यवस्था को पार करने का प्रयास साइबर सुरक्षा के लिहाज से महत्वपूर्ण चिंता का विषय बन सकता है। इससे पहले जुलाई में Hugging Face प्लेटफॉर्म पर भी इसी तरह की घटना सामने आने की जानकारी दी गई थी, जहां 700 से ज्यादा AI एजेंट्स के अपनी निर्धारित सीमाओं से आगे जाने की बात सामने आई थी।
50 पेटाबाइट डेटा की हो रही जांच
घटना के बाद OpenAI ने मामले की विस्तृत जांच शुरू कर दी है। कंपनी करीब 50 पेटाबाइट डेटा की बारीकी से जांच कर रही है। इतनी बड़ी मात्रा में डेटा को समझना आसान नहीं है। इसे मानवीय पैमाने पर समझें तो बिना रुके लगातार डेटा पढ़ने की स्थिति में इसे पूरा करने में करोड़ों साल लग सकते हैं।
इतने बड़े डेटा सेट को प्रोसेस करने के लिए बड़ी संख्या में आधुनिक GPU और कंप्यूटिंग संसाधनों का इस्तेमाल किया जा रहा है। इस जांच का उद्देश्य AI एजेंट्स की गतिविधियों और सुरक्षा सीमाओं के बीच हुई समस्या की जड़ का पता लगाना है।
OpenAI बढ़ा रहा Real-Time Monitoring
इस घटना के बाद OpenAI की ओर से AI एजेंट्स की निगरानी और सुरक्षा व्यवस्था को मजबूत करने पर जोर दिया जा रहा है। कंपनी रियल-टाइम मॉनिटरिंग बढ़ाने और सुरक्षा नियमों को और कड़ा करने की दिशा में काम कर रही है।
AI एजेंट्स के अधिक स्वायत्त होने के साथ यह घटना इस बात को सामने लाती है कि ऐसे सिस्टम को डिजिटल दुनिया में कार्रवाई की अनुमति देते समय सुरक्षा नियंत्रण और निगरानी कितनी महत्वपूर्ण हो सकती है। आने वाले समय में AI एजेंट्स के इस्तेमाल के साथ उनकी गतिविधियों पर नियंत्रण और सुरक्षा मानकों को लेकर चर्चा और बढ़ सकती है।
राष्ट्रबंधु की नवीनतम अपडेट्स पाने के लिए हमारा Facebook पेज लाइक करें, WhatsApp व YouTube पर हमें सब्सक्राइब करें, और अपने पसंदीदा आर्टिकल्स को शेयर करना न भूलें।
CHECK OUT LATEST SHOPPING DEALS & OFFERS
