En Resumen
- Unos 200 manifestantes marcharon en San Francisco frente a Anthropic, OpenAI y xAI exigiendo una pausa coordinada en el desarrollo de IA.
- El fundador de Stop the AI Race, Michael Trazzi, propuso limitar la capacidad de cómputo para verificar cualquier acuerdo de pausa entre laboratorios.
- Trazzi advirtió que la competencia acelerada entre empresas y países genera sistemas incontrolables, describiendo la situación como una "carrera suicida".
Los manifestantes salieron a las calles de San Francisco el sábado, deteniéndose frente a las oficinas de Anthropic, OpenAI y xAI para exigir una pausa condicionada en el desarrollo de inteligencia artificial cada vez más poderosa.
Según el fundador de Stop the AI Race y documentalista Michael Trazzi, aproximadamente 200 personas participaron en la manifestación. Entre los participantes había investigadores, académicos y miembros de grupos de defensa como el Machine Intelligence Research Institute, PauseAI, QuitGPT, StopAI y Evitable.
"Hay muchas personas que se preocupan por el riesgo de los sistemas avanzados de IA", señaló Trazzi a Decrypt. "Que todos marchemos juntos demuestra que la gente no está sola pensando en esto. Hay muchas personas a quienes les importa"."
La marcha comenzó al mediodía frente a las oficinas de Anthropic, luego se trasladó a OpenAI y después a xAI. En cada parada, activistas y oradores de las organizaciones participantes se dirigieron a los manifestantes.
Según Trazzi, la protesta buscaba presionar a las empresas de IA para que acordaran una pausa coordinada en la construcción de modelos de IA más poderosos, y para crear tratados con desarrolladores de IA en otros países con el mismo fin.
"Si China y Estados Unidos acordaran dejar de construir modelos más peligrosos, podrían concentrarse en hacer los sistemas más útiles para nosotros, como la IA médica", afirmó. "Todos estaríamos mejor".
La propuesta de Stop the AI Race exige que las empresas dejen de construir nuevos modelos de frontera y redirijan su trabajo hacia la seguridad, siempre que otros grandes laboratorios "hagan lo mismo de manera creíble", lo que según Trazzi hace que protestar frente a las oficinas de los laboratorios de IA sea aún más importante.
Una oposición constante
Esta protesta es la más reciente de una serie de esfuerzos por interrumpir el desarrollo de la IA.
En marzo de 2023, el Future of Life Institute publicó una carta abierta exigiendo una moratoria sobre nuevas mejoras a la principal herramienta de IA tras el lanzamiento público de ChatGPT el año anterior.
Entre los firmantes estaban el fundador de xAI, Elon Musk; el cofundador de Apple, Steve Wozniak; y el cofundador de Ripple, Chris Larsen. Desde entonces, la carta abierta "Pause Giant AI Experiments" ha acumulado más de 33.000 firmas.
En septiembre, Trazzi realizó una huelga de hambre de una semana frente a las oficinas de Google DeepMind en Londres, mientras que Guido Reichstadter llevó a cabo una huelga de hambre paralela frente a las oficinas de Anthropic en San Francisco.
Funcionarios de gobierno y defensores del desarrollo continuo de la IA argumentan que frenar la investigación en Estados Unidos podría darles a los competidores extranjeros una ventaja.
La semana pasada, la Administración Trump publicó su marco regulatorio de IA para establecer un estándar nacional que regule el desarrollo de esta tecnología. La Casa Blanca lo presentó como un compromiso con "ganar la carrera de la IA".
"Aunque estés en China o en cualquier país del mundo, nadie quiere sistemas que no pueda controlar", agregó Trazzi. "Como estamos en esta carrera entre empresas y países por construir los sistemas lo más rápido posible, estamos tomando atajos y descuidando la seguridad. Es una carrera en la que no hay ganadores. Lo que tenemos son sistemas que no podemos controlar, y por eso se llama una carrera suicida".
Sin embargo, incluso si los desarrolladores de IA acordaran pausar el desarrollo, verificarlo podría ser más fácil decirlo que hacerlo. Trazzi sugirió que una forma de verificar la pausa sería limitar la capacidad de cómputo utilizada para entrenar nuevos modelos.
"Si limitas cuánta capacidad de cómputo puede usar una empresa para construir estos sistemas, básicamente estás limitando el desarrollo de nuevos modelos", señaló.
Tras la protesta en San Francisco, Trazzi indicó que podrían realizarse manifestaciones adicionales en otros lugares donde operan las principales empresas de IA.
"Queremos aparecer donde están los empleados", dijo. "Queremos hablar con ellos, y queremos que hablen con sus líderes para que las cosas se muevan desde adentro", añadiendo que los denunciantes tendrán cierto poder porque "son quienes lo están construyendo".
OpenAI, Anthropic y xAI no respondieron de inmediato a las solicitudes de comentarios de Decrypt.