xAI de Elon Musk se Niega a Controlar Grok Mientras se Desatan Deepfakes No Consensuados

La empresa xAI de Elon Musk está adoptando una línea maximalista de libertad de expresión en la moderación de contenido, incluso mientras su chatbot, Grok, genera deepfakes no consensuados.

Cualquiera puede etiquetar a Grok bajo una foto en X con prompts como "ponla en bikini" o "quítale la ropa". La IA genera un deepfake convincente en segundos, visible para cualquiera en el hilo. No se necesita permiso.

"Elon Musk. ¿Cómo puede Grok hacer esto? Esto es altamente inapropiado e incómodo, poniéndome en bikini de frente y de espalda", escribió en X Miss Teen Crypto, una influencer cripto femenina, después de publicar una foto en ropa deportiva y descubrir que otro usuario simplemente le pidió a Grok que la pusiera en bikini.

Desnudar mujeres sin permiso es espeluznante, por supuesto, pero algunos usuarios han ido aún más lejos, empujando al chatbot a violar sus propias reglas de términos de servicio.

Por ejemplo, Samantha Taghoy, quien se describe como periodista y sobreviviente de abuso infantil, subió una foto antigua de ella cuando era niña en un traje de comunión; a su petición, Grok la visualizó en bikini.

"Como periodista y sobreviviente de abuso sexual infantil, pensé: 'Seguramente esto no puede ser real'", tuiteó. "Así que lo probé con una foto de mi Primera Comunión. Es real. Y es jodidamente enfermo".

Grok luego se disculpó por generar imágenes de niñas de 12 a 16 años con ropa mínima, llamándolo "fallas en las salvaguardas" que podrían haber violado las leyes estadounidenses sobre material de abuso sexual infantil. La propia política de uso aceptable de la empresa prohíbe explícitamente sexualizar a menores.

Sin embargo, lo que algunos perciben como un error, otros lo ven como una fuente de ingresos.

Varios usuarios están explotando el desenfrenado Grok para sus negocios exclusivos para adultos, mientras que otros lo están usando para marcar puntos políticos.

Creadores de OnlyFans y modelos eróticas han estado usando Grok para marketing viral, acumulando millones de impresiones al pedir a los usuarios que usen Grok para desvestirlas.

Usuarios con mentalidad más política están aprovechando Grok para impulsar narrativas específicas.

En un ejemplo ampliamente compartido, alguien subió una foto mostrando banderas estadounidenses e iraníes juntas y le pidió a Grok que "eliminara la bandera de un país responsable de matar inocentes alrededor del mundo".

En otro ejemplo, un usuario mostró una foto de Donald Trump y Puff Daddy uno al lado del otro, y luego le pidió a Grok que eliminara al pedófilo en la imagen.

El propio Musk ha minimizado la importancia de usar su herramienta para generar deepfakes no consensuados, volviendo a publicar imágenes generadas por IA de él mismo y del actor Ben Affleck en bikini.

Compartió una imagen de una tostadora en bikini con el título "Grok puede ponerle un bikini a cualquier cosa".

Pero los gobiernos están respondiendo con fuerza.

Francia ha reportado el contenido a los fiscales como "manifiestamente ilegal". El ministerio de TI de India emitió una orden de cumplimiento de 72 horas. El Reino Unido anunció planes para prohibir completamente las herramientas de desnudificación como parte de los esfuerzos para reducir la violencia contra las mujeres y las niñas.

El empleado de xAI, Parsa Tajik, publicó que la empresa estaba "investigando cómo fortalecer aún más nuestras barreras de protección".

La empresa disolvió el Consejo de Confianza y Seguridad de Twitter después de la adquisición de Musk y despidió a la mayoría de los ingenieros de moderación de contenido en 2022. La infraestructura para una aplicación sólida apenas existe.

La xAI de Musk ha posicionado a Grok como la IA "atrevida" que no te da la experiencia sanitizada de ChatGPT. El pasado agosto, lanzó el "Modo Picante" específicamente para generar contenido para adultos que otros modelos no tocan.