Anthropic ha eliminado un sistema de seguimiento oculto de Claude Code después de que un investigador de seguridad descubriera que el asistente de codificación de IA utilizaba marcadores no revelados para identificar la ubicación de algunos usuarios, el uso de proxies y posibles vínculos con laboratorios de IA chinos.

La función, descubierta en junio por el desarrollador “Thereallo”, incrustaba señales en las indicaciones del sistema de Claude Code que podían identificar a usuarios que Anthropic creía que estaban evadiendo restricciones o intentando extraer las capacidades del modelo.

“Anthropic probablemente quiere detectar revendedores de API, pasarelas de Claude Code no autorizadas y ‘pipelines’ de ataques de destilación de modelos”, escribió Thereallo. “Una ANTHROPIC_BASE_URL personalizada que apunte a un dominio de revendedor conocido es una señal útil. Un nombre de host que contenga deepseek o zhipu también es una señal útil”."

Thereallo dijo que el intento de Anthropic de detectar revendedores, pasarelas de Claude Code no autorizadas y posibles ataques de destilación tenía sentido, pero criticó la forma en que se hizo, señalando que Claude Code ocultaba señales de seguimiento dentro de las indicaciones del sistema utilizando marcadores Unicode y listas de dominios codificadas en lugar de divulgar el sistema a través de la documentación o las notas de lanzamiento.

“Esta no es una característica maliciosa, pero es una elección extraña para una herramienta de desarrollador que pide confianza”, escribió Thereallo.

Después de que el rastreador fuera revelado en línea, el ingeniero de Anthropic, Thariq Shihipar, dijo en X que fue introducido en marzo como un “experimento” para detener el abuso de cuentas por parte de revendedores no autorizados y proteger a Claude de ataques de destilación.

“El equipo ha implementado mitigaciones más fuertes desde entonces y de hecho teníamos la intención de eliminar esto hace tiempo”, escribió Shihipar la semana pasada. “Fusionamos la [solicitud de extracción] y esto debería revertirse por completo en la versión de mañana”."

La noticia surge mientras Anthropic ha intensificado las advertencias sobre la destilación de modelos de IA, donde las salidas de un sistema se utilizan para entrenar otro modelo. Si bien la práctica es común en la investigación de IA, cuando se trata de geopolítica, la destilación se convierte en una preocupación de seguridad nacional. A principios de este mes, Alibaba prohibió a sus empleados usar Claude Code, calificando la herramienta como software de “alto riesgo” debido a preocupaciones de seguridad.

En febrero, Anthropic acusó a los desarrolladores chinos de IA DeepSeek, Moonshot AI y MiniMax de utilizar cuentas fraudulentas para extraer millones de respuestas de Claude y entrenar modelos de la competencia. Las afirmaciones generaron críticas de quienes cuestionaron cómo esta práctica difiere de los métodos utilizados en toda la industria de la IA.

En abril, Elon Musk testificó que xAI había utilizado “parcialmente” modelos de OpenAI mientras entrenaba a Grok, calificando la destilación como una práctica industrial más amplia. En junio, el CEO de Anthropic, Dario Amodei, instó al Congreso a fortalecer las protecciones contra la extracción extranjera de IA después de alegar que operadores vinculados a Alibaba generaron 28.8 millones de intercambios con Claude utilizando casi 25,000 cuentas fraudulentas.

Anthropic no respondió de inmediato a una solicitud de comentarios de Decrypt.