انتروپیک یک سیستم ردیابی پنهان را از کلود کد حذف کرده است، پس از آنکه یک محقق امنیتی کشف کرد که این دستیار کدنویسی هوش مصنوعی از نشانگرهای افشا نشده برای شناسایی موقعیت مکانی برخی کاربران، استفاده از پراکسی و ارتباطات احتمالی با آزمایشگاههای هوش مصنوعی چینی استفاده میکند.
این قابلیت، که در ماه ژوئن توسط توسعهدهنده "Thereallo" کشف شد، سیگنالهایی را در دستورات سیستمی کلود کد تعبیه کرده بود که میتوانست کاربرانی را که انتروپیک معتقد بود محدودیتها را دور میزنند یا تلاش میکنند قابلیتهای مدل را استخراج کنند، علامتگذاری کند.
Thereallo نوشت: "انتروپیک احتمالاً میخواهد فروشندگان مجدد API، درگاههای غیرمجاز کلود کد و خطوط حمله 'تقطیر' مدل را شناسایی کند. یک آدرس پایه (URL) سفارشی ANTHROPIC_BASE_URL که به یک دامنه فروشنده مجدد شناخته شده اشاره دارد، یک سیگنال مفید است. یک نام میزبانی (hostname) که شامل DeepSeek یا Zhipu باشد نیز یک سیگنال مفید است."
Thereallo گفت که تلاش انتروپیک برای تشخیص فروشندگان مجدد، درگاههای غیرمجاز کلود کد و حملات تقطیر احتمالی منطقی است، اما نحوه انجام آن را مورد انتقاد قرار داد و اشاره کرد که کلود کد به جای افشای سیستم از طریق مستندات یا یادداشتهای انتشار، سیگنالهای ردیابی را با استفاده از نشانگرهای یونیکد و فهرستهای دامنه رمزگذاری شده در داخل دستورات سیستمی پنهان کرده بود.
Thereallo نوشت: "این یک ویژگی مخرب نیست، اما انتخاب عجیبی برای یک ابزار توسعهدهنده است که خواهان اعتماد است."
پس از افشای این ردیاب در فضای آنلاین، طارق شیحیپار، مهندس انتروپیک، در ایکس (X) گفت که این ویژگی در ماه مارس به عنوان یک "آزمایش" برای جلوگیری از سوءاستفاده از حساب کاربری توسط فروشندگان مجدد غیرمجاز و محافظت از کلود در برابر حملات تقطیر معرفی شده بود.
شیحیپار هفته گذشته نوشت: "تیم از آن زمان راهکارهای کاهنده قویتری را ارائه کرده است و ما واقعاً مدتی بود که قصد داشتیم این را حذف کنیم. ما [درخواست پول] را ادغام کردیم و این باید در نسخه فردا به طور کامل بازگردانده شود."
این خبر در حالی منتشر میشود که انتروپیک هشدارها را در مورد تقطیر مدل هوش مصنوعی افزایش داده است، جایی که خروجیهای یک سیستم برای آموزش مدل دیگری استفاده میشود. در حالی که این رویه در تحقیقات هوش مصنوعی رایج است، در مسائل ژئوپلیتیک، تقطیر به یک نگرانی امنیت ملی تبدیل میشود. اوایل این ماه، علیبابا استفاده کارکنان خود از کلود کد را ممنوع کرد و این ابزار را به دلیل نگرانیهای امنیتی، نرمافزاری "پرخطر" نامید.
در ماه فوریه، انتروپیک توسعهدهندگان هوش مصنوعی چینی DeepSeek، Moonshot AI و MiniMax را متهم کرد که از حسابهای جعلی برای استخراج میلیونها پاسخ از کلود به منظور آموزش مدلهای رقیب استفاده کردهاند. این ادعاها با مخالفت منتقدانی مواجه شد که سوال میکردند این رویه چه تفاوتی با روشهای مورد استفاده در سراسر صنعت هوش مصنوعی دارد.
در ماه آوریل، ایلان ماسک شهادت داد که xAI "تا حدی" از مدلهای OpenAI در حین آموزش Grok استفاده کرده و تقطیر را یک رویه صنعتی گستردهتر نامید. در ماه ژوئن، داریو آمودی، مدیرعامل انتروپیک، از کنگره خواست تا حمایتها را در برابر استخراج هوش مصنوعی توسط بیگانگان تقویت کند، پس از آنکه ادعا کرد اپراتورهای مرتبط با علیبابا با استفاده از تقریباً ۲۵۰۰۰ حساب جعلی، ۲۸.۸ میلیون تعامل کلود را تولید کردهاند.
انتروپیک بلافاصله به درخواست اظهار نظر دکریپت (Decrypt) پاسخ نداد.
