Anthropic Amplía Acceso a Claude Mythos Tras Presentar su IPO

Por Jason Nelson

Anthropic está ampliando el acceso a su modelo de IA Claude Mythos a través del Proyecto Glasswing, un programa diseñado para permitir que empresas tecnológicas, de seguridad y gobiernos descubran y corrijan errores y posibles vulnerabilidades antes de que el poderoso modelo sea lanzado al público.

En una entrada de blog publicada el martes, Anthropic señaló que está incorporando aproximadamente 150 organizaciones a su programa controlado, mientras la empresa se prepara para un lanzamiento más amplio del controvertido modelo.

La expansión llega después de que Anthropic indicara que espera llevar los modelos de clase Mythos a sus clientes "en las próximas semanas", una vez que complete las salvaguardas adicionales. La noticia también coincide con los preparativos de Anthropic para salir a bolsa, luego de haber presentado de forma confidencial su solicitud de IPO el lunes ante la Comisión de Bolsa y Valores de Estados Unidos (SEC).

"Tras varias semanas de estrecha colaboración con nuestros socios del Proyecto Glasswing, la industria de seguridad, los mantenedores de software de código abierto y el gobierno de Estados Unidos, estamos ampliando la asociación a aproximadamente 150 nuevas organizaciones", escribió Anthropic. "Cada una deberá cumplir con nuestros requisitos de seguridad antes de obtener acceso".

La más reciente expansión del Proyecto Glasswing incorpora organizaciones de sectores de infraestructura crítica, como energía, agua, salud, comunicaciones y hardware. Anthropic afirmó que muchas de las nuevas organizaciones gestionan software utilizado por gobiernos y cientos de millones de personas.

"Lo que cada socio tiene en común es que un ataque exitoso a su base de código podría ser catastrófico", escribió Anthropic. "Para la mayoría de los socios, estimamos que un ataque de gran escala podría afectar a más de 100 millones de personas, con importantes repercusiones para la seguridad tanto global como nacional".

Claude Mythos surgió públicamente en marzo, tras la filtración en línea de materiales internos de Anthropic. Según la compañía, las organizaciones que recibieron acceso previamente ya han utilizado Mythos Preview para identificar más de 10.000 vulnerabilidades de software de gravedad alta o crítica. Los socios también están usando el modelo para redactar parches, realizar revisiones de seguridad y probar software antes de su lanzamiento.

Las capacidades del modelo han generado preocupación entre investigadores y agencias gubernamentales, ante la posibilidad de que los sistemas de IA cada vez más avanzados faciliten la ejecución de ciberataques.

El Instituto de Seguridad de IA del Reino Unido reportó que Mythos completó de forma autónoma un ataque simulado de 32 pasos a una red corporativa durante las pruebas. Mozilla indicó que el modelo identificó 271 vulnerabilidades que fueron corregidas en el navegador Firefox, mientras que la startup de seguridad Calif afirmó que una versión preliminar ayudó a investigadores a desarrollar una cadena de exploit dirigida a los chips M5 de Apple.

Anthropic señaló que está ampliando el acceso a Mythos porque considera que los defensores necesitan herramientas de IA cada vez más capaces antes de que los atacantes obtengan capacidades similares. La empresa indicó que espera que otros desarrolladores lancen modelos de clase Mythos en un plazo de seis a 12 meses, potencialmente sin salvaguardas comparables, lo que eleva la posibilidad de ciberataques más frecuentes e impredecibles.

"En el futuro, los lanzamientos de modelos de frontera serán cada vez más críticos. Las capacidades seguirán mejorando en todos los ámbitos, incluyendo muchos que, como la ciberseguridad, pueden potenciar tanto a atacantes como a defensores por igual", escribió Anthropic. "Si tenemos éxito, esperamos lograr una ventaja permanente para los defensores".

Anthropic no respondió de inmediato a una solicitud de comentarios de Decrypt.

Con la ampliación del acceso privado, los usuarios de Myriad, una plataforma de mercado de predicciones operada por la empresa matriz de Decrypt, Dastan, están perdiendo la confianza en que Claude Mythos sea lanzado al público antes de que finalice junio. Le asignan apenas un 26,5% de probabilidad al momento de redactar este artículo, por debajo del pico del 58,5% registrado la semana pasada.

Noticias recomendados