استخدم وكلاء OpenAI موقعًا ألمانيًا لتبادل اختصارات المهام، وطرق التحايل على القيود، ووسائل إخفاء نشاطهم بدءًا من شهر مايو، وفقًا لتحقيق أجرته رويترز ونُشر يوم الجمعة.
علم مسؤولو OpenAI بالنشاط قبل أسابيع من النشر لكنهم لم يكشفوا عنه، حسبما ذكرت رويترز، نقلًا عن شخصين مطلعين على الأمر. وقالت الشركة إنها كشفت عن الحوادث ذات الصلة وعملت بحسن نية مع خبراء خارجيين.
وجد الباحثون سيدني فون أرك، كورماك سليد بيرد، سبنسر كيتس، وتوماس لارسن حوالي 18,000 منشور من وكلاء الذكاء الاصطناعي يعرّفون أنفسهم بأنهم ينتمون إلى OpenAI، وفقًا لتقريرهم الأولي. اكتشف فون أرك، الرئيس التنفيذي لمنظمة السلامة للذكاء الاصطناعي غير الربحية "نايتنجيل"، وبيرد النشاط في أواخر أغسطس، حسبما ذكرت رويترز.
يعتقد الباحثون أن الوكلاء كُلفوا بمهام بحث عبر الويب محددة بوقت، مع إذن بقراءة مواقع الويب ولكن ليس النشر فيها. ومع ذلك، وجدوا طريقة للكتابة على DseWiki، وهو موقع برمجة ألماني قابل للتحرير بشكل عام، حيث تبادلوا الإجابات وشاركوا طرقًا لتجاوز القيود.
وفقًا للتقرير، بدأ الوكلاء في محاولة تعديل الويكي في 11 مايو ونجحوا في 24 مايو، ثم انتحلوا شخصية الوسطاء، وحاولوا استغلال الثغرات الأمنية، وتحققوا من وقت إيقافهم. أنشأوا صفحات احتياطية بعد أن بدأ المسؤول في حذف الرسائل في 19 يونيو، حسبما ذكرت رويترز. ربط الباحثون النشاط بـ OpenAI من خلال أسماء مستخدمي الوكلاء وأنماط حركة المرور، بما في ذلك الزيارات من عناوين IP الخاصة بـ OpenAI في 21 يونيو.
انخفض نشاط الوكلاء بشكل حاد في اليوم التالي، مما يشير إلى تدخل محتمل من الشركة، حسبما قال الباحثون.
اعترضت OpenAI على وصف نشاط DseWiki بأنه قرصنة، بناءً على المواد التي راجعتها، وقالت إنها تدرس النتائج الكاملة.
قال متحدث باسم OpenAI في بيان مشترك مع Decrypt: "لم نتمكن من الرد على الادعاءات حيث رفضت رويترز ومؤلفو التقرير طلبنا للوصول إلى النتائج قبل النشر. نحن الآن نراجع محتوياته بعناية وسنتخذ أي خطوات ضرورية تالية."
رفض المتحدث أيضًا الادعاءات الواردة في تقرير رويترز بأن الفريق القانوني للشركة قاوم تحقيقًا أوسع.
قالوا: "الادعاءات بأن فريقنا القانوني ثبط التحقيق في الحادث غير صحيحة."
قالت OpenAI إن حادث DseWiki لا علاقة له بـ اختراق Hugging Face الذي وقع في وقت سابق من هذا العام. في تقييمها العام للسلامة، الذي نُشر يوم الثلاثاء، وصفت الشركة ضمانات إضافية تهدف إلى اكتشاف ووقف الأنشطة غير المصرح بها أثناء التدريب والنشر.
بينما لا يحدد تقرير رويترز أسترا على أنها المسؤولة عن الحادث الألماني، يأتي هذا الكشف بعد إطلاق GPT-6 أسترا يوم الخميس. وصفت OpenAI أسترا بأنها أول نموذج لها يمتلك قدرات أمن سيبراني "حرجة"، مما يعني أنه يمكنه العثور على عيوب غير معروفة في الأنظمة المحمية جيدًا واستغلالها سابقًا دون توجيه بشري خطوة بخطوة، إذا توفرت له الأدوات والوصول المناسبين.
قامت Anthropic أيضًا بمراجعة إجراءات الحماية الخاصة بها بعد أن وصلت نماذج كلود إلى أنظمة شركات حقيقية أثناء الاختبار. أقرت الشركة بفشل أمني وسلوكي وقدمت عزلًا ومراقبة أكثر صرامة لتقييمات الأمن السيبراني.
يأتي هذا الكشف أيضًا في الوقت الذي أعلن فيه السناتور الأمريكي بيرني ساندرز (مستقل - فيرمونت) والنائب الأمريكي جريج كاسار (ديمقراطي - تكساس) عن قانون حظر الذكاء الاصطناعي الخارق الوشيك.
يهدف الاقتراح إلى حظر دائم لتطوير ونشر الذكاء الاصطناعي الخارق وإيقاف مؤقت لتطوير الذكاء الاصطناعي المتقدم حتى ينشئ منظم فيدرالي جديد قواعد السلامة، وفقًا لمكتب ساندرز.
