UE Declara Ilegal "Modo Picante" de Grok por Generar Imágenes Sexualizadas de Menores

Por Jose Antonio Lanz

La Comisión Europea acaba de decirle a Elon Musk lo que todos ya sabían: crear imágenes sexualizadas de niños no es "picante". Es ilegal.

"Somos conscientes de que X o Grok ahora ofrece un 'Modo Picante' que muestra contenido sexual explícito con algunas salidas generadas con imágenes infantiles", dijo el lunes el portavoz de la Comisión de la UE, Thomas Regnier, en una conferencia de prensa en Bruselas. "Esto no es picante. Esto es ilegal. Esto es espantoso. Esto es asqueroso. Esto no tiene lugar en Europa".

La declaración marca una escalada en una controversia que, según Decrypt reportó previamente, ha visto al chatbot de xAI generar deepfakes no consensuados de mujeres, convertirse en una herramienta de marketing para creadores de OnlyFans y manipular imágenes con fines políticos.

Regnier dejó en claro que esta no es la primera ofensa de Grok. La Comisión envió previamente solicitudes de información después de que el chatbot generara contenido de negación del Holocausto el año pasado, otro crimen en varios países europeos.

"Creo que X es muy consciente de que hablamos muy en serio sobre la aplicación de la DSA", señaló un portavoz de la UE a Euronews, refiriéndose a la Ley de Servicios Digitales. "Recordarán la multa que han recibido de nosotros".

Esa multa de diciembre fue de €120 millones ($140 millones), la primera sanción bajo la DSA. La Comisión dictaminó que X violó los requisitos de transparencia en torno a su sistema de marca de verificación azul, repositorio de publicidad y acceso a datos para investigadores. X permanece bajo investigación activa de la DSA por contenido ilegal y desinformación.

Musk llamó a la multa "basura" y afirmó que la impugnaría.

Francia también ha ampliado una investigación criminal para incluir acusaciones de que Grok genera pornografía infantil. La Ofcom de Gran Bretaña emitió demandas urgentes el lunes para que X explique cómo Grok produjo estas imágenes. El ministerio de TI de India le dio a X hasta el 5 de enero para proporcionar una revisión de seguridad integral, y Malasia abrió su propia investigación.

El eurodiputado holandés Jeroen Lenaers fue al corazón del enfoque de xAI. "Si las plataformas de IA eligen permitir la generación de contenido erótico, deben implementarse de antemano salvaguardas robustas, efectivas e independientemente verificables", agregó Lenaers el martes.

Lenaers añadió que confiar en la eliminación de material de abuso sexual infantil después de su creación no es suficiente porque "el daño a las víctimas ya ha sido infligido y no se puede deshacer".

Eso es exactamente lo que sucedió. Según reportó Decrypt, Grok publicó imágenes sexualizadas de menores antes de eliminarlas. El chatbot se disculpó la semana pasada por generar imágenes de niñas de 12 a 16 años, llamando a los incidentes "fallos en las salvaguardas". Para entonces, el daño ya estaba hecho.

¿La respuesta de xAI a la creciente presión internacional? Cuando Reuters pidió comentarios, la empresa respondió: "Los medios heredados mienten".

Múltiples investigaciones regulatorias ahora amenazan esa estrategia. La DSA permite multas de hasta el 6% de los ingresos anuales globales por violaciones. La multa de diciembre de X se calculó utilizando un porcentaje menor por infracciones por primera vez. Las violaciones repetidas podrían costar exponencialmente más.

La reacción política desde Washington después del primer conjunto de multas fue inmediata. El vicepresidente JD Vance publicó que la UE "debería estar apoyando la libertad de expresión, no atacando empresas estadounidenses por basura". El secretario de Estado Marco Rubio calificó la multa de diciembre de la DSA como un "ataque al pueblo estadounidense".

Sin embargo, los reguladores europeos no aceptan la defensa de la libertad de expresión cuando se trata de material de abuso sexual infantil. El lenguaje de Regnier el lunes no dejó lugar a interpretaciones. Esto no es un debate sobre censura política o culturas diferentes de moderación de contenido, sino un asunto de detener la producción y difusión de imágenes sexualizadas ilegales de niños.

xAI aún no ha realizado cambios sustanciales en las capacidades de Grok. La pestaña de Medios del chatbot fue deshabilitada después de que se viera inundada con imágenes sexualizadas, pero la función central de edición de imágenes y la capacidad de animar esas fotos permanecen activas.

Noticias recomendados