Por Vismaya V
3 min lectura
La Comisión Europea lanzó el lunes una investigación formal para determinar si X violó las normas digitales de la UE al presuntamente no prevenir que su chatbot de IA Grok generara y difundiera contenido ilegal, incluidas imágenes sexualmente explícitas de menores.
La investigación evaluará si la empresa evaluó y mitigó adecuadamente los riesgos antes de implementar las funciones de generación de imágenes de Grok, según señaló la Comisión en un comunicado del lunes.
La Comisión también afirmó que los riesgos se han materializado a través de la generación y difusión real de contenido sexual ilegal, exponiendo a los ciudadanos de la UE a daños graves.
Esto se produce en medio del creciente escrutinio internacional sobre el papel de Grok en la creación de deepfakes no consensuados.
Hace dos semanas, X implementó restricciones, limitando la generación de imágenes a suscriptores de pago, y agregó barreras técnicas para evitar que los usuarios manipularan digitalmente a las personas con ropa reveladora. La empresa también bloqueó geográficamente la función en jurisdicciones donde dicho contenido es ilegal.
Sin embargo, a pesar de estas medidas, investigadores descubrieron que aproximadamente un tercio de las imágenes sexualizadas de menores identificadas en la muestra del CCDH permanecían accesibles en la plataforma de X.
"Con esta investigación, determinaremos si X ha cumplido con sus obligaciones legales bajo la DSA, o si trató los derechos de los ciudadanos europeos, incluidos los de mujeres y niños, como daños colaterales de su servicio", señaló Henna Virkkunen, Vicepresidenta Ejecutiva de Soberanía Tecnológica, Seguridad y Democracia, en el comunicado.
A principios de este mes, el portavoz de la Comisión de la UE, Thomas Regnier, condenó la función "Spicy Mode" de X en una conferencia de prensa en Bruselas.
"Esto no es picante. Esto es ilegal. Esto es espantoso. Esto es repugnante. Esto no tiene lugar en Europa", afirmó Regnier.
Fraser Edwards, cofundador y CEO de cheqd, dijo a Decrypt que "cada creador debería poder controlar cómo se usa su imagen en medios generados por IA".
Edwards señala que la "reacción negativa en torno al abuso de deepfakes subraya un fracaso básico de internet en sí".
"Todavía no hay una forma nativa de verificar quién creó una pieza de contenido sintético o si su uso fue autorizado alguna vez", agregó Edwards, dejando que la responsabilidad continúe "recayendo en intermediarios como X en lugar de las personas responsables de generar el abuso".
De comprobarse, las fallas bajo investigación constituirían infracciones de los Artículos 34(1) y (2), 35(1) y 42(2) de la Ley de Servicios Digitales, que requieren que las plataformas evalúen y mitiguen riesgos sistémicos, incluida la difusión de contenido ilegal y efectos negativos relacionados con la violencia de género.
La investigación de la UE amplía un caso de la DSA de finales de 2023 que resultó en una multa de $140 millones (€120 millones) contra X en diciembre por diseño engañoso, fallas en la transparencia de anuncios y acceso limitado para investigadores.
Desde entonces, la Comisión ha ampliado el escrutinio a Grok, incluidas preocupaciones previas sobre contenido antisemita generado por el chatbot.
Decrypt se ha puesto en contacto con xAI para obtener más comentarios.
Decrypt-a-cookie
This website or its third-party tools use cookies. Cookie policy By clicking the accept button, you agree to the use of cookies.