En Resumen
- Anthropic eliminó un sistema de rastreo oculto en Claude Code que usaba marcadores Unicode para identificar revendedores y usuarios con vínculos a IA china.
- El ingeniero Thariq Shihipar confirmó que la función fue introducida en marzo como experimento y que el equipo ya tenía intención de revertirla.
- La controversia surge tras acusaciones de Anthropic contra DeepSeek y Alibaba por extraer millones de respuestas de Claude para entrenar modelos competidores.
Anthropic ha eliminado un sistema de rastreo oculto de Claude Code después de que un investigador de seguridad descubriera que el asistente de programación de IA utilizaba marcadores no divulgados para identificar la ubicación de algunos usuarios, el uso de proxies y posibles vínculos con laboratorios chinos de IA.
La función, descubierta en junio por el desarrollador "Thereallo", incorporaba señales en los prompts del sistema de Claude Code que podían señalar a los usuarios que Anthropic consideraba que estaban eludiendo restricciones o intentando extraer capacidades del modelo.
"Anthropic probablemente quiere detectar revendedores de API, gateways no autorizados de Claude Code y pipelines de 'ataques de destilación' de modelos", escribió Thereallo. "Una ANTHROPIC_BASE_URL personalizada que apunte a un dominio de revendedor conocido es una señal útil. Un hostname que contenga deepseek o zhipu también es una señal útil".
Thereallo señaló que el intento de Anthropic de detectar revendedores, gateways no autorizados de Claude Code y posibles ataques de destilación tenía sentido, pero criticó la forma en que se hizo, indicando que Claude Code ocultó las señales de rastreo dentro de los prompts del sistema mediante marcadores Unicode y listas de dominios codificados, en lugar de divulgar el sistema a través de documentación o notas de lanzamiento.
"Esta no es una función maliciosa, pero es una decisión extraña para una herramienta de desarrollo que pide confianza", afirmó Thereallo.
Tras revelarse el rastreador en línea, el ingeniero de Anthropic Thariq Shihipar afirmó en X que fue introducido en marzo como un "experimento" para detener el abuso de cuentas por parte de revendedores no autorizados y proteger a Claude de ataques de destilación.
"El equipo ha implementado medidas más sólidas desde entonces y, de hecho, llevábamos un tiempo con intención de eliminar esto", escribió Shihipar la semana pasada. "Hicimos el merge del [pull request] y esto debería estar completamente revertido en el lanzamiento de mañana".
La noticia llega en un momento en que Anthropic ha intensificado sus advertencias sobre la destilación de modelos de IA, donde los resultados de un sistema se utilizan para entrenar otro modelo. Si bien la práctica es común en la investigación de IA, en el contexto geopolítico la destilación se convierte en una preocupación de seguridad nacional. A principios de este mes, Alibaba prohibió a sus empleados usar Claude Code, calificando la herramienta como software de "alto riesgo" por motivos de seguridad.
En febrero, Anthropic acusó a los desarrolladores chinos de IA DeepSeek, Moonshot AI y MiniMax de usar cuentas fraudulentas para extraer millones de respuestas de Claude con el fin de entrenar modelos competidores. Las acusaciones recibieron críticas de quienes cuestionaron en qué se diferencia esta práctica de los métodos utilizados en toda la industria de la IA.
En abril, Elon Musk declaró que xAI había usado "parcialmente" modelos de OpenAI durante el entrenamiento de Grok, calificando la destilación como una práctica extendida en la industria. En junio, el CEO de Anthropic, Dario Amodei, instó al Congreso a reforzar las protecciones contra la extracción de IA por parte de actores extranjeros, tras alegar que operadores vinculados a Alibaba generaron 28,8 millones de intercambios con Claude mediante casi 25.000 cuentas fraudulentas.
Anthropic no respondió de inmediato a una solicitud de comentarios de Decrypt.