यूके की विदेश सचिव यवेट कूपर ने चेतावनी दी है कि यदि सरकारें आर्टिफिशियल इंटेलिजेंस को नियंत्रित करने वाले कानून बनाने के लिए इंतजार करती हैं, तो वे परमाणु युग की शुरुआत में की गई गलतियों को दोहराने का जोखिम उठाती हैं।

सोमवार को प्रकाशित एक लेख में, कूपर ने कहा कि AI सफलताएँ प्रदान करता है, लेकिन जैसे-जैसे यह तकनीक अधिक शक्तिशाली और व्यापक रूप से उपलब्ध होती जाती है, यह नए जोखिम भी प्रस्तुत करती है।

"पिछले महीने, शेनझेन, चीन में, मैंने जीवन रक्षक स्वास्थ्य सेवा के लिए उपयोग किए जाने वाले AI और रोबोटिक्स की असाधारण क्षमता देखी," कूपर ने लिखा। "लेकिन वही प्रौद्योगिकियां युद्ध, अपराध और सामाजिक सामंजस्य के भविष्य को भी चिंताजनक तरीकों से नया आकार दे रही हैं।"

कूपर ने कहा कि AI से उत्पन्न जोखिमों का प्रबंधन "अगले दशक की सबसे बड़ी सुरक्षा चुनौती" बन सकता है और उन्होंने तर्क दिया कि सरकारों को संकट द्वारा कार्रवाई करने से पहले फ्रंटियर प्रौद्योगिकी के संबंध में अंतर्राष्ट्रीय समझौतों की आवश्यकता है।

उन्होंने AI प्रणालियों को विकसित करने की वर्तमान होड़ की तुलना शुरुआती परमाणु हथियारों की होड़ से की, और कहा कि वैश्विक सुरक्षा समझौते तभी सामने आए जब देशों ने परमाणु हथियारों से हुई तबाही देखी।

"परमाणु के मामले में, अंतर्राष्ट्रीय समझौता तभी हुआ जब दुनिया ने हिरोशिमा में नई तकनीक की भयावह शक्ति देखी," कूपर ने लिखा। "हम कार्रवाई करने से पहले हिरोशिमा के AI समकक्ष का इंतजार नहीं कर सकते।"

कूपर ने ब्रिटेन से अपने राजनयिक प्रभाव का उपयोग करने का आह्वान किया ताकि संयुक्त राज्य अमेरिका, चीन और अन्य प्रमुख AI शक्तियों को साझा सुरक्षा सिद्धांतों और मानकों को स्थापित करने के लिए एक साथ लाया जा सके, जिसमें ब्लेचले पार्क में 2023 AI सेफ्टी समिट का जिक्र किया गया, जहाँ 29 देशों और यूरोपीय संघ के वैश्विक नेताओं ने AI के उभरते जोखिम पर चर्चा करने के लिए मुलाकात की थी। कूपर ने इसे AI सुरक्षा पर "दुनिया को एकजुट करने" की यूके की क्षमता का एक उदाहरण बताया।

कूपर की चेतावनी सरकारों को तेजी से शक्तिशाली AI प्रणालियों की देखरेख कैसे करनी चाहिए, इस पर महीनों की बढ़ती चिंताओं के बाद आई है।

मई में, यूके के AI सिक्योरिटी इंस्टीट्यूट ने चेतावनी दी थी कि OpenAI के GPT-5.5 के बाद AI साइबर सुरक्षा क्षमताओं में तेजी से वृद्धि हुई, जो मानव सहायता के बिना एक नकली साइबर हमले को पूरा करने वाला दूसरा मॉडल बन गया, Anthropic के Claude Mythos Preview के बाद।

कुछ दिनों बाद, अंतर्राष्ट्रीय मुद्रा कोष (IMF) ने चेतावनी दी कि AI कमजोरियों का फायदा उठाने के लिए आवश्यक कौशल को कम करके वैश्विक वित्तीय प्रणाली के खिलाफ साइबर हमलों को "बढ़ा" सकता है, नीति निर्माताओं से साइबर सुरक्षा को पूरी तरह से तकनीकी समस्या के बजाय वित्तीय स्थिरता के मुद्दे के रूप में मानने का आग्रह किया।

जून में, राष्ट्रपति डोनाल्ड ट्रम्प ने उन्नत AI मॉडलों को जारी करने से पहले उनकी समीक्षा के लिए एक स्वैच्छिक ढांचा बनाने, AI साइबर सुरक्षा कार्यक्रमों का विस्तार करने और एजेंसियों को फ्रंटियर AI मॉडलों से संभावित राष्ट्रीय सुरक्षा जोखिमों का मूल्यांकन करने का निर्देश देते हुए एक कार्यकारी आदेश पर हस्ताक्षर किए।

उसी महीने, AI उद्योग के भीतर से भी सख्त नियमों की मांगें उठीं, जिसमें एंथ्रोपिक के सीईओ डारियो अमोदेई ने तर्क दिया कि पारदर्शिता की आवश्यकताएं अब पर्याप्त नहीं हैं और फ्रंटियर मॉडलों के अनिवार्य तीसरे पक्ष के परीक्षण का आह्वान किया। इस मांग के बाद अमेरिकी सरकार ने राष्ट्रीय सुरक्षा चिंताओं के कारण एंथ्रोपिक को क्लाउड फेबल 5 और मिथोस 5 तक पहुंच प्रतिबंधित करने का आदेश दिया, इससे पहले कि जुलाई में आदेश हटा लिया गया।