शुक्रवार को प्रकाशित रॉयटर्स (Reuters) की एक जांच के अनुसार, मई में शुरू होकर, ओपनएआई (OpenAI) एजेंटों ने अपनी गतिविधियों को छिपाने के लिए कार्य शॉर्टकट, प्रतिबंधों को बायपास करने के तरीके और अन्य तरीकों का आदान-प्रदान करने के लिए एक जर्मन वेबसाइट का उपयोग किया।

रॉयटर्स ने मामले से परिचित दो लोगों का हवाला देते हुए बताया कि ओपनएआई (OpenAI) के अधिकारियों को प्रकाशन से हफ्तों पहले इस गतिविधि के बारे में पता चला था, लेकिन उन्होंने इसका खुलासा नहीं किया। कंपनी ने कहा कि उसने प्रासंगिक घटनाओं का खुलासा किया था और बाहरी विशेषज्ञों के साथ सद्भावना में काम किया था।

शोधकर्ताओं सिडनी वॉन आर्कस (Sydney Von Arx), कॉर्माक स्लेड बर्ड (Cormac Slade Byrd), स्पेंसर किट्स (Spencer Kitts) और थॉमस लार्सन (Thomas Larsen) ने अपनी प्रारंभिक रिपोर्ट के अनुसार, AI एजेंटों द्वारा लगभग 18,000 पोस्ट पाए, जिन्होंने खुद को ओपनएआई (OpenAI) से संबंधित बताया था। रॉयटर्स ने बताया कि AI सुरक्षा गैर-लाभकारी नाइटिंगेल (Nightingale) के सीईओ वॉन आर्कस और बर्ड ने अगस्त के अंत में इस गतिविधि का पता लगाया।

शोधकर्ताओं का मानना है कि एजेंटों को वेबसाइटों को पढ़ने की अनुमति के साथ समय-निर्धारित वेब-खोज कार्य सौंपे गए थे, लेकिन उन पर पोस्ट करने की अनुमति नहीं थी। इसके बावजूद, उन्होंने DseWiki, एक सार्वजनिक रूप से संपादन योग्य जर्मन प्रोग्रामिंग साइट पर लिखने का एक तरीका खोज निकाला, जहाँ उन्होंने उत्तरों का आदान-प्रदान किया और प्रतिबंधों को बायपास करने के तरीके साझा किए।

रिपोर्ट के अनुसार, एजेंटों ने 11 मई को विकी को संपादित करने की कोशिश शुरू की और 24 मई को सफल रहे, बाद में उन्होंने मॉडरेटर का प्रतिरूपण किया, कमजोरियों का फायदा उठाने का प्रयास किया और यह जांचा कि उन्हें कब बंद किया जा रहा था। रॉयटर्स ने बताया कि प्रशासक द्वारा 19 जून को संदेशों को हटाना शुरू करने के बाद उन्होंने बैकअप पेज बनाए। शोधकर्ताओं ने एजेंट के उपयोगकर्ता नाम और ट्रैफिक पैटर्न के माध्यम से इस गतिविधि को ओपनएआई (OpenAI) से जोड़ा, जिसमें 21 जून को ओपनएआई (OpenAI) आईपी (IP) पतों से विज़िट भी शामिल थीं।

अगले दिन एजेंट गतिविधि में तेजी से गिरावट आई, जिससे कंपनी के संभावित हस्तक्षेप का संकेत मिलता है, शोधकर्ताओं ने कहा।

ओपनएआई (OpenAI) ने DseWiki गतिविधि को हैकिंग के रूप में वर्णित करने पर विवाद किया, जो उसने समीक्षा की गई सामग्री पर आधारित था, और कहा कि वह पूरे निष्कर्षों की जांच कर रहा है।

“हम दावों का जवाब देने में असमर्थ थे क्योंकि रॉयटर्स और रिपोर्ट के लेखकों ने प्रकाशन से पहले निष्कर्षों तक पहुंच के हमारे अनुरोध को अस्वीकार कर दिया था। हम अब इसकी सामग्री की सावधानीपूर्वक समीक्षा कर रहे हैं और कोई भी आवश्यक अगला कदम उठाएंगे,” ओपनएआई (OpenAI) के एक प्रवक्ता ने डिक्रिप्ट (Decrypt) के साथ साझा किए गए एक बयान में कहा।

प्रवक्ता ने रॉयटर्स की रिपोर्ट में लगाए गए उन आरोपों को भी खारिज कर दिया कि कंपनी की कानूनी टीम ने एक व्यापक जांच का विरोध किया था।

“यह दावा कि हमारी कानूनी टीम ने घटना की जांच को हतोत्साहित किया, गलत है,” उन्होंने कहा।

ओपनएआई (OpenAI) ने कहा कि DseWiki की घटना इस साल की शुरुआत में हुए हगिंग फेस (Hugging Face) उल्लंघन से असंबंधित थी। मंगलवार को प्रकाशित अपने सार्वजनिक सुरक्षा मूल्यांकन में, कंपनी ने प्रशिक्षण और परिनियोजन के दौरान अनधिकृत गतिविधि का पता लगाने और उसे रोकने के लिए अतिरिक्त सुरक्षा उपायों का वर्णन किया।

हालांकि रॉयटर्स की रिपोर्ट जर्मन घटना के लिए एस्ट्रा (Astra) को जिम्मेदार नहीं ठहराती है, यह खुलासा गुरुवार को GPT-6 एस्ट्रा के लॉन्च के बाद हुआ है। ओपनएआई (OpenAI) ने एस्ट्रा को अपनी पहली ऐसी मॉडल कहा जिसमें “महत्वपूर्ण” साइबर सुरक्षा क्षमताएं हैं, जिसका अर्थ है कि यह सही उपकरण और पहुंच दिए जाने पर, पहले चरण-दर-चरण मानव मार्गदर्शन के बिना, अच्छी तरह से संरक्षित प्रणालियों में अज्ञात खामियों को ढूंढ और उनका फायदा उठा सकती है।

एंथ्रोपिक (Anthropic) ने भी क्लाउड (Claude) मॉडलों द्वारा परीक्षण के दौरान वास्तविक कंपनियों के सिस्टम तक पहुंचने के बाद अपने सुरक्षा उपायों को संशोधित किया है। कंपनी ने सुरक्षा और व्यवहार संबंधी विफलताओं को स्वीकार किया और साइबर सुरक्षा मूल्यांकन के लिए सख्त अलगाव और निगरानी शुरू की।

यह खुलासा तब भी हुआ है जब अमेरिकी सीनेटर बर्नी सैंडर्स (I-Vt.) और अमेरिकी प्रतिनिधि ग्रेग कैसर (D-Texas) ने आगामी आर्टिफिशियल सुपरइंटेलिजेंस पर प्रतिबंध अधिनियम (Ban Artificial Superintelligence Act) की घोषणा की।

सैंडर्स के कार्यालय के अनुसार, यह प्रस्ताव सुपरइंटेलिजेंट AI के विकास और परिनियोजन पर स्थायी रूप से प्रतिबंध लगाएगा और एक नए संघीय नियामक द्वारा सुरक्षा नियमों को स्थापित करने तक उन्नत AI विकास को अस्थायी रूप से रोक देगा।