En Resumen
- Anthropic denunció que operadores vinculados a Alibaba generaron 28,8 millones de intercambios con Claude usando 25.000 cuentas falsas.
- La empresa calificó la extracción como amenaza a la seguridad nacional que acelera capacidades militares de IA en China.
- Anthropic pidió al Congreso sanciones, controles de exportación y cooperación gobierno-industria contra la extracción de modelos.
Anthropic está pidiendo al Congreso que fortalezca las protecciones contra la destilación de modelos de IA, tras afirmar que operadores afiliados a Alibaba llevaron a cabo el mayor esfuerzo conocido para extraer capacidades de su chatbot Claude.
En una carta del 10 de junio dirigida al presidente del Comité de Banca, Vivienda y Asuntos Urbanos del Senado, Tim Scott, y a la miembro de mayor rango Elizabeth Warren, Anthropic alegó que operadores afiliados a Alibaba y su laboratorio de IA Qwen generaron más de 28,8 millones de intercambios con Claude entre el 22 de abril y el 5 de junio, utilizando casi 25.000 "cuentas fraudulentas", es decir, cuentas que no representaban usuarios reales u orgánicos.
Conocido como un ataque de destilación, Anthropic señaló que las operaciones apuntaron a las capacidades de razonamiento agéntico, ingeniería de software y planificación a largo plazo de Claude, lo que permitiría a los competidores reproducir el comportamiento avanzado del modelo sin el costo de entrenar un sistema de IA de frontera.
"Más allá de su escala, esta campaña fue notable por su naturaleza descarada", escribió Anthropic. "Alibaba cotiza en la Bolsa de Valores de Nueva York, mantiene operaciones comerciales en Estados Unidos y es responsable ante los inversores y reguladores estadounidenses".
Anthropic afirmó que la campaña fue más allá de las preocupaciones de propiedad intelectual, enmarcando la destilación de modelos a gran escala como un problema de seguridad nacional que podría acelerar las capacidades militares y cibernéticas de IA de China, al tiempo que reduce la ventaja tecnológica de Estados Unidos.
La carta llega en un momento en que Washington intensifica sus esfuerzos por proteger el liderazgo estadounidense en IA. A principios de este mes, el presidente Donald Trump firmó una orden ejecutiva que amplía las iniciativas de ciberseguridad impulsadas por IA, tras posponer la medida por preocupaciones de que pudiera debilitar la posición competitiva de Estados Unidos frente a China.
"Cuando los laboratorios de la República Popular China destilan estas capacidades a partir de modelos estadounidenses, capturan los rendimientos de las inversiones estadounidenses sin asumir los costos ni los riesgos asociados con el entrenamiento de modelos de IA de frontera", escribió Anthropic. "Esto invierte la lógica económica que sustenta el liderazgo estadounidense en IA, convirtiendo miles de millones de dólares en investigación y desarrollo, computación y otras inversiones estadounidenses en un subsidio para nuestros competidores".
Anthropic instó a los legisladores a ampliar el intercambio de inteligencia entre los desarrolladores de IA de frontera y el gobierno de EE.UU., aclarar las normas antimonopolio para permitir que las empresas de IA compartan información sobre ataques de destilación, fortalecer los controles de exportación de chips de IA avanzados y computación, cerrar las lagunas que permiten a las empresas chinas acceder a centros de datos en el extranjero e imponer sanciones a las empresas responsables de la extracción de modelos a gran escala.
Un portavoz de Anthropic declinó comentar específicamente sobre la carta, pero señaló a Decrypt: "Creemos que combatir la amenaza de la destilación ilícita requiere una acción coordinada entre el gobierno y la industria, y seguiremos trabajando con el Congreso y la administración para mantener el liderazgo estadounidense en IA".
La carta también se basa en las afirmaciones de Anthropic en febrero de que los desarrolladores chinos de IA DeepSeek, Moonshot AI y MiniMax generaron más de 16 millones de intercambios con Claude utilizando aproximadamente 24.000 cuentas fraudulentas.
Esas acusaciones recibieron críticas de observadores que argumentaron que las empresas de IA dependen de técnicas similares al entrenar sus propios sistemas. Anthropic ha respondido que la destilación convencional es un método legítimo para producir modelos más pequeños y económicos, mientras que la extracción no autorizada de capacidades de modelos de frontera mediante acceso fraudulento viola sus términos de servicio.
El debate más amplio sobre la destilación se ha vuelto más complejo en los últimos meses. En abril, Elon Musk testificó en un tribunal federal que xAI había utilizado "parcialmente" modelos de OpenAI al entrenar a Grok, lo que subraya que la destilación es una práctica establecida en la industria, incluso cuando las empresas debaten dónde termina el entrenamiento legítimo de modelos y dónde comienza la extracción no autorizada.