En Resumen
- Devin Kim, exingeniero de xAI, demandó a la empresa alegando que fue despedido tras advertir sobre riesgos de seguridad en Grok.
- Kim señaló que el chatbot carecía de salvaguardas contra desinformación, sesgo racial y contenido que podría facilitar el bioterrorismo.
- La demanda también cita el episodio "MechaHitler" y casos vinculados a deepfakes sexuales de menores generados por Grok.
Un exingeniero de xAI presentó una demanda esta semana contra xAI y SpaceX, alegando que fue despedido tras advertir repetidamente a los líderes de la empresa sobre los riesgos de seguridad asociados con Grok, el chatbot insignia de la firma de inteligencia artificial.
Según una queja presentada ante el Tribunal Superior del Condado de Santa Clara, en California, el exmiembro del personal técnico de xAI Devin Kim alegó que fue despedido tras advertir repetidamente que Grok necesitaba salvaguardas más sólidas contra la desinformación, el sesgo y los resultados peligrosos —incluyendo contenido que podría facilitar el bioterrorismo— y que las pruebas insuficientes dejaban al modelo vulnerable al sesgo racial y político.
"Presentar la demanda en este momento es una decisión reflexiva que tomó el señor Kim. Los problemas de seguridad de la IA sobre los que se quejó repetidamente durante su tiempo en xAI tienen un impacto profundo en el futuro de la tecnología de IA y en el futuro de la humanidad", señaló Qiaojing Ella Zheng, socia del bufete de abogados Sanford Heisler Sharp McKnight y abogada principal de Kim, a Decrypt.
"Los usuarios y el público tienen derecho a conocer los riesgos y los peligros potenciales que impone Grok, y los denunciantes como el señor Kim juegan un papel fundamental para revelar dicha información", agregó. "Esperamos que el caso anime a xAI, SpaceX y otras empresas de IA a implementar las salvaguardas de seguridad adecuadas para proteger a los usuarios y al público".
La demanda sostiene que Kim fue uno de los primeros empleados de xAI y "un destacado defensor" de la seguridad de la IA en la empresa, quien se unió a la firma en parte por el historial de advertencias de Elon Musk sobre los peligros que plantea la IA avanzada.
"El señor Kim convirtió su interés de toda la vida en la ciencia y la programación informática en una carrera en el emergente campo de la IA", indica la demanda. "En el camino, fue testigo de primera mano de los daños que la IA puede causar cuando se desarrolla sin las salvaguardas adecuadas, y se comprometió a proteger a los usuarios y al público de esos daños".
La queja también señala las controversias relacionadas con Grok que los abogados de Kim dijeron que reflejaban los riesgos que él planteó internamente. Entre ellas, el colapso de "MechaHitler" del chatbot el verano pasado, durante el cual Grok generó una ola de respuestas antisemitas, lo que desencadenó una reacción pública y llevó a xAI a emitir una corrección.
Los abogados de Kim también citan investigaciones y demandas más recientes vinculadas a la supuesta generación por parte de Grok de deepfakes sexuales no consensuales, incluidos casos en Baltimore y California que alegan que la herramienta fue utilizada para crear imágenes sexualizadas de menores.
Según los abogados de Kim, al "represaliar y despedir injustamente" al señor Kim, xAI violó el Código Laboral de California, la política pública y el derecho consuetudinario de California, y la Ley de Competencia Desleal de California.
La demanda también se produce tras otras disputas de alto perfil sobre la seguridad y la responsabilidad de la IA, incluidas las alegaciones planteadas por el exinvestigador de OpenAI Suchir Balaji, quien acusó públicamente a OpenAI de utilizar datos protegidos por derechos de autor de forma indebida para entrenar sus modelos, antes de su muerte en 2024.
Aunque la queja de Kim se centra en las prácticas de seguridad de Grok y xAI, SpaceX también figura como demandada, y llega en un momento en que SpaceX se prepara para una muy esperada IPO, tras la decisión de Musk de fusionar xAI y X en la compañía.
"Este caso no se trata de oponerse a la innovación", afirmó David Sanford, presidente y cofundador de Sanford Heisler Sharp McKnight, en un comunicado. "Devin Kim y Elon Musk han compartido públicamente una preocupación fundamental: que la inteligencia artificial avanzada debe desarrollarse de manera segura y responsable debido a sus profundas implicaciones para la humanidad".
Kim alega que su despido le costó una compensación sustancial en acciones y solicita la restitución de las acciones confiscadas, daños compensatorios, daños punitivos, honorarios de abogados y otros recursos. A principios de este mes, Kim fue nombrado nuevo presidente del Centro para la Seguridad de la IA, una organización sin fines de lucro.
"Los denunciantes como Devin Kim juegan un papel fundamental para denunciar las malas prácticas corporativas, y la ley protege a los empleados que plantean esas preocupaciones", añadió Sanford.
Nota del editor: Esta historia fue actualizada tras su publicación para incluir un nuevo comentario del bufete de abogados.