Manifestantes Marchan Contra OpenAI, Anthropic y Google DeepMind Exigiendo una Pausa en el Desarrollo de IA

Por Jason Nelson

Los manifestantes volvieron a tomar las calles de San Francisco, marchando entre las oficinas de OpenAI, Anthropic y Google DeepMind, exigiendo una pausa en el desarrollo de sistemas de IA más potentes.

La manifestación del sábado, organizada por Stop the AI Race, fue más allá de la seguridad de la IA para incluir preocupaciones sobre la pérdida de empleos, el impacto ambiental de la IA, el aumento del costo de la vivienda en San Francisco y la creciente influencia de las grandes empresas tecnológicas.

Organizada por el exinvestigador de IA Michaël Trazzi, la marcha instó a las principales empresas de IA a detener el entrenamiento de nuevos modelos de IA de frontera, manteniendo disponibles los sistemas existentes. Los manifestantes exhortaron a las compañías a redirigir su investigación hacia la seguridad y alineación de la IA hasta que se implementen salvaguardas más robustas, mientras que algunos también llamaron a una regulación local y estatal más estricta.

Trazzi señaló que los objetivos del grupo han evolucionado desde su primera protesta en marzo.

"Creo que a principios de este año no estaba pensando tanto en aumentar la visibilidad política como en convencer a los CEOs", le dijo Trazzi a Decrypt. "Creo que he actualizado mi postura hacia que los CEOs en realidad escuchan, dado las múltiples publicaciones en blogs y algunos intercambios que tuve con uno de ellos. También creo que realizar protestas es útil para demostrar que a la gente le importa".

La manifestación se suma a una protesta anterior de Stop the AI Race en marzo, cuando aproximadamente 200 personas marcharon entre las oficinas de Anthropic, OpenAI y xAI para exigir una pausa coordinada en el desarrollo de IA de frontera. Desde entonces, el grupo ha continuado su campaña a través de protestas y acciones de incidencia pública.

Trazzi afirmó sentirse alentado por el respaldo que el movimiento ha conseguido desde entonces.

"Me sorprendió gratamente que el NUHW [Sindicato Nacional de Trabajadores de la Salud] respaldara la protesta y la reposteara en sus redes sociales", añadió. "También me sorprendió la rapidez con la que otros grupos en el Área de la Bahía, como AI Action, pudieron ponerse al día y trabajar con nosotros. También estoy muy agradecido con QuitGPT por su ayuda en la organización".

OpenAI, Anthropic y Google DeepMind no respondieron de inmediato a las solicitudes de comentarios de Decrypt.

Los organizadores dijeron que planean continuar abogando por una pausa internacional en el desarrollo de IA de frontera, al tiempo que alientan a los legisladores a adoptar una supervisión más estricta de los sistemas de IA avanzados.

La protesta llega en un momento en que las preocupaciones sobre la seguridad de la IA siguen siendo objeto de escrutinio.

En mayo, OpenAI introdujo nuevas funciones de seguridad en ChatGPT diseñadas para detectar mejor señales de autolesión y violencia durante las conversaciones, mientras la empresa enfrentaba demandas judiciales e investigaciones por presuntas fallas en el manejo de interacciones peligrosas por parte de su chatbot.

En junio, la administración de Donald Trump ordenó a Anthropic suspender el acceso a sus modelos Claude Fable 5 y Claude Mythos 5 por posibles riesgos de ciberseguridad. A principios de este mes, el primer panel científico independiente de las Naciones Unidas sobre IA concluyó que los científicos no pueden descartar un "daño catastrófico" a medida que la tecnología de IA avanza más rápido que la comprensión científica y la supervisión gubernamental.

Noticias recomendados