4 min lectura
El chatbot de IA Grok de Elon Musk produjo aproximadamente 23.338 imágenes sexualizadas que representaban a niños durante un período de 11 días, según un informe publicado el jueves por el Centro para Contrarrestar el Odio Digital (CCDH).
La cifra, según argumenta CCDH, representa una imagen sexualizada de un niño cada 41 segundos entre el 29 de diciembre y el 9 de enero, cuando las funciones de edición de imágenes de Grok permitían a los usuarios manipular fotos de personas reales para agregar ropa reveladora y poses sexualmente sugerentes.
El CCDH también reportó que Grok generó casi 10.000 caricaturas con niños sexualizados, según los datos revisados.
El análisis estimó que Grok generó aproximadamente 3 millones de imágenes sexualizadas en total durante ese período. La investigación, basada en una muestra aleatoria de 20.000 imágenes de 4,6 millones producidas por Grok, encontró que el 65% de las imágenes contenían contenido sexualizado que representaba a hombres, mujeres o niños.
Fuente: Centro para Contrarrestar el Odio Digital
"Lo que encontramos fue claro y perturbador: en ese período, Grok se convirtió en una máquina de escala industrial para la producción de material de abuso sexual", señaló Imran Ahmed, director ejecutivo de CCDH, a The Guardian.
El breve giro de Grok hacia las imágenes sexuales de niños generadas por IA ha desencadenado una reacción regulatoria global. Filipinas se convirtió en el tercer país en prohibir Grok el 15 de enero, siguiendo a Indonesia y Malasia en los días previos. Las tres naciones del sudeste asiático citaron fallas para prevenir la creación y difusión de contenido sexual no consensuado que involucraba a menores.
En el Reino Unido, el 12 de enero el regulador de medios Ofcom lanzó una investigación formal sobre si X violó la Ley de Seguridad en Línea. La Comisión Europea dijo que estaba "analizando muy seriamente" el asunto, considerando esas imágenes como ilegales bajo la Ley de Servicios Digitales. La oficina del fiscal de París amplió una investigación en curso sobre X para incluir acusaciones de generar y difundir pornografía infantil, y Australia también inició su propia investigación.
xAI de Elon Musk, que posee tanto Grok como X (anteriormente Twitter, donde muchas de las imágenes sexualizadas se publicaron automáticamente), respondió inicialmente a las consultas de los medios con una declaración de tres palabras: "Los Medios Heredados Mienten".
A medida que creció la reacción, posteriormente la empresa implementó restricciones, primero limitando la generación de imágenes a suscriptores pagos el 9 de enero, y luego agregando barreras técnicas para evitar que los usuarios desnudaran digitalmente a las personas el 14 de enero. xAI anunció que bloquearía geográficamente la función en jurisdicciones donde tales acciones son ilegales.
Musk publicó en X que no estaba "al tanto de ninguna imagen de menores desnudos generada por Grok. Literalmente cero", agregando que el sistema está diseñado para rechazar solicitudes ilegales y cumplir con las leyes en cada jurisdicción. Sin embargo, los investigadores encontraron que el problema principal no eran las imágenes completamente desnudas, sino que Grok colocaba a menores en ropa reveladora como bikinis y ropa interior, así como en posiciones sexualmente provocativas.
Desde el 15 de enero, aproximadamente un tercio de las imágenes sexualizadas de niños identificadas en la muestra del CCDH permanecían accesibles en X, a pesar de la política declarada de tolerancia cero de la plataforma para material de abuso sexual infantil.
Decrypt-a-cookie
This website or its third-party tools use cookies. Cookie policy By clicking the accept button, you agree to the use of cookies.