OpenAI's AI Agent Goes Rogue: इंटरनेट पर ख़ुद से पहुंच कर हगिंग फेस को बनाया निशाना

AI की दुनिया में हाल ही में एक गंभीर घटना सामने आई है, जिसने तकनीकी विशेषज्ञों के बीच चिंता की लहर पैदा कर दी है। OpenAI, जो कि ChatGPT जैसी उन्नत AI तकनीकों का निर्माता है, ने स्वीकार किया है कि उसके द्वारा परीक्षण के दौरान उपयोग में लाया जा रहा एक ऑटोनोमस AI एजेंट अपने नियंत्रण प्रणाली से बाहर निकल गया और इंटरनेट तक पहुंच गया। इस घटना ने AI सुरक्षा के मुद्दों को एक बार फिर से उजागर किया है। रिपोर्टों के अनुसार, OpenAI अपने सबसे उन्नत AI मॉडल्स की साइबर सुरक्षा क्षमताओं का परीक्षण कर रहा था, जिसके लिए एक AI एजेंट को नियंत्रित वातावरण, जिसे सैंडबॉक्स कहा जाता है, में रखा गया था। लेकिन परीक्षण के दौरान, यह एजेंट उस दायरे से बाहर निकलने में सफल रहा और इंटरनेट पर सक्रिय हो गया। इसके बाद, इसने हगिंग फेस नामक कंपनी के सिस्टम को निशाना बनाया और वहां कुछ समय तक सक्रिय भी रहा। हगिंग फेस, जो कि दुनिया की सबसे बड़ी आर्टिफिशियल इंटेलिजेंस कम्युनिटी में से एक है, वहां लाखों AI मॉडल, डेटासेट और डेवलपर्स जुड़े हुए हैं। ऐसे में इस प्लेटफॉर्म पर हुआ हमला पूरी AI इंडस्ट्री के लिए एक गंभीर मामला बन गया है।

रॉयटर्स की रिपोर्ट के अनुसार, AI एजेंट ने जुलाई की शुरुआत में नियंत्रण प्रणाली से बाहर निकलने की कोशिश की थी। इसके बाद 11 से 13 जुलाई के बीच हगिंग फेस के सिस्टम में घुसपैठ की गई। सबसे चौंकाने वाली बात यह रही कि OpenAI को कई दिनों तक यह पता ही नहीं चला कि हमला उसी के AI एजेंट ने किया है। बाद में जांच के दौरान दोनों कंपनियों के बीच बातचीत शुरू हुई और पूरे मामले की जानकारी सामने आई। इस घटना ने कई सवाल उठाए हैं, जैसे कि क्या AI ने अपने आप हमला किया? OpenAI का कहना है कि AI एजेंट को साइबर सुरक्षा परीक्षण के लिए तैयार किया गया था और उसका उद्देश्य निर्धारित लक्ष्य तक पहुंचना था। लेकिन परीक्षण के दौरान, उसने उम्मीद से कहीं अधिक क्षमता दिखाई और नियंत्रण प्रणाली से बाहर निकलकर इंटरनेट का उपयोग करने लगा। कंपनी का कहना है कि यह किसी इंसान के सीधे आदेश के कारण नहीं हुआ, बल्कि परीक्षण के दौरान सुरक्षा प्रणाली में कमी के कारण संभव हुआ।