Anthropic telah menghapus sistem pelacakan tersembunyi dari Claude Code setelah seorang peneliti keamanan menemukan asisten koding AI tersebut menggunakan penanda yang tidak diungkapkan untuk mengidentifikasi lokasi beberapa pengguna, penggunaan proxy, dan kemungkinan keterkaitan dengan laboratorium AI Tiongkok.
Fitur tersebut, yang ditemukan pada bulan Juni oleh pengembang “Thereallo,” menyematkan sinyal dalam perintah sistem Claude Code yang dapat menandai pengguna yang diyakini Anthropic sedang melewati batasan atau mencoba mengekstrak kemampuan model.
“Anthropic kemungkinan ingin mendeteksi penjual ulang API, gateway Claude Code yang tidak sah, dan saluran 'serangan distilasi' model,” tulis Thereallo. “ANTHROPIC_BASE_URL kustom yang mengarah ke domain penjual ulang yang dikenal adalah sinyal yang berguna. Nama host yang berisi deepseek atau zhipu juga merupakan sinyal yang berguna.”
Thereallo mengatakan upaya Anthropic untuk mendeteksi penjual ulang, gateway Claude Code yang tidak sah, dan potensi serangan distilasi masuk akal, tetapi mengkritik cara pelaksanaannya, mencatat bahwa Claude Code menyembunyikan sinyal pelacakan di dalam perintah sistem menggunakan penanda Unicode dan daftar domain yang dienkripsi alih-alih mengungkapkan sistem tersebut melalui dokumentasi atau catatan rilis.
“Ini bukan fitur jahat, tetapi merupakan pilihan yang aneh untuk alat pengembang yang membutuhkan kepercayaan,” tulis Thereallo.
Setelah pelacak tersebut terungkap secara daring, insinyur Anthropic Thariq Shihipar mengatakan di X bahwa itu diperkenalkan pada bulan Maret sebagai “eksperimen” untuk menghentikan penyalahgunaan akun oleh penjual ulang tidak sah dan melindungi Claude dari serangan distilasi.
“Tim telah menerapkan mitigasi yang lebih kuat sejak saat itu dan kami sebenarnya sudah lama ingin menghapusnya,” tulis Shihipar minggu lalu. “Kami telah menggabungkan [pull request] dan ini seharusnya sepenuhnya ditarik kembali dalam rilis besok.”
Berita ini muncul saat Anthropic meningkatkan peringatan tentang distilasi model AI, di mana output dari satu sistem digunakan untuk melatih model lain. Meskipun praktik ini umum dalam penelitian AI, dalam konteks geopolitik, distilasi menjadi masalah keamanan nasional. Awal bulan ini, Alibaba melarang karyawan menggunakan Claude Code, menyebut alat tersebut sebagai perangkat lunak “berisiko tinggi” karena masalah keamanan.
Pada bulan Februari, Anthropic menuduh pengembang AI Tiongkok DeepSeek, Moonshot AI, dan MiniMax menggunakan akun palsu untuk mengekstrak jutaan respons Claude guna melatih model pesaing. Klaim tersebut menuai penolakan dari para kritikus yang mempertanyakan bagaimana praktik ini berbeda dari metode yang digunakan di seluruh industri AI.
Pada bulan April, Elon Musk bersaksi bahwa xAI “sebagian” menggunakan model OpenAI saat melatih Grok, menyebut distilasi sebagai praktik industri yang lebih luas. Pada bulan Juni, CEO Anthropic Dario Amodei mendesak Kongres untuk memperkuat perlindungan terhadap ekstraksi AI asing setelah menuduh operator yang terkait dengan Alibaba menghasilkan 28,8 juta pertukaran Claude menggunakan hampir 25.000 akun palsu.
Anthropic tidak segera menanggapi permintaan komentar dari Decrypt.
