Minnesota Toma Medidas Para Prohibir Apps de IA Que Generan Imágenes Falsas de Desnudos

Por Jason Nelson

Los legisladores de Minnesota han aprobado un proyecto de ley orientado a frenar una forma creciente de abuso de la IA, apuntando a las plataformas que lo facilitan.

El jueves, el Senado de Minnesota votó 65-0 para aprobar el House File 1606, enviándolo al gobernador Tim Walz para su firma. La medida prohíbe a sitios web y aplicaciones ofrecer herramientas que generen imágenes falsas y realistas de desnudos de personas identificables.

Bajo el proyecto de ley, las empresas que controlan un sitio web, aplicación o servicio de software no pueden permitir que los usuarios accedan o utilicen herramientas para crear estas imágenes ni generarlas en nombre del usuario. También queda prohibida la publicidad o promoción de dichos servicios.

La medida permite a las víctimas demandar a las personas o empresas que operan o controlan herramientas de desnudificación, como sitios web, aplicaciones o software que generan imágenes falsas de desnudos. Las personas retratadas en imágenes de desnudos generadas por IA pueden reclamar daños y perjuicios, incluyendo por angustia mental, y los tribunales pueden otorgar hasta tres veces los daños reales, junto con daños punitivos, honorarios de abogados y órdenes para cesar la conducta.

El proyecto de ley también otorga al fiscal general del estado el poder de hacer cumplir la ley, con multas civiles de hasta $500.000 por infracción. Según el proyecto, dichas multas se destinan al fondo general del estado y luego se asignan a servicios para víctimas, incluyendo apoyo a sobrevivientes de agresión sexual, violencia doméstica y abuso infantil.

El proyecto apunta a herramientas que requieren escasa experiencia técnica y se han vuelto ampliamente accesibles, incluso para menores. De ser firmada, la ley entrará en vigor el 1 de agosto y se aplicará a los nuevos casos a partir de esa fecha.

Si bien el nuevo proyecto no menciona a ningún desarrollador de IA en particular, la noticia llega tras una serie de incidentes de alto perfil en la plataforma social X, entre ellos el de agosto de 2025, cuando la herramienta Grok de la empresa xAI de Elon Musk generó deepfakes de desnudos de Taylor Swift. La superestrella del pop optó por registrar como marca su voz e imagen ante la Oficina de Patentes de EE. UU. en abril, quizás como medida para prevenir futuras reproducciones con IA.

Musk también enfrenta creciente presión legal, incluyendo una demanda colectiva federal presentada por tres menores de Tennessee que alegan que Grok generó material de abuso sexual infantil a partir de sus imágenes. Asimismo, una demanda de protección al consumidor interpuesta por la ciudad de Baltimore sostiene que la empresa desplegó deliberadamente un sistema que produce y difunde contenido sexualizado no consensual, incluyendo de menores.

Robert Weissman, copresidente de Public Citizen, señaló que la proliferación de estas herramientas refleja la rapidez con que la IA ha rebajado la barrera para crear imágenes íntimas no consensuales y ha ampliado su alcance.

"Estas aplicaciones tienen como objetivo en un 99% a mujeres, de las cuales más del 90% son menores de 18 años. Es una herramienta de intimidación y acoso contra las mujeres con consecuencias psicológicas realmente graves", afirmó Weissman a Decrypt. "Esto se ha visto en todo el país y el mundo. Por eso la necesidad de intervención y regulación gubernamental es urgente".

Weissman agregó que las leyes estatales pueden desempeñar un papel complementario a los esfuerzos federales, especialmente en materia de aplicación. Señaló que las autoridades locales pueden estar mejor posicionadas para actuar con rapidez en casos individuales, mientras que las agencias federales podrían no priorizarlos ni perseguirlos.

La ley de Minnesota llega también en medio de una disputa en curso entre la administración del presidente Donald Trump y los estados sobre quién debe controlar la regulación de la IA. La Ley Take It Down, firmada por el presidente Donald Trump en mayo de 2025, penaliza la distribución de imágenes íntimas no consensuales y otorga a las víctimas una vía para reclamar daños civiles.

"Creo que contar con estándares federales y estatales complementarios es positivo, al menos en teoría. Hablamos de diferentes sistemas de aplicación y agencias de cumplimiento", añadió Weissman. "Así que puede existir un estándar federal, pero no necesariamente la capacidad federal para llevar a cabo acciones de cumplimiento".

La oficina del gobernador Walz no respondió de inmediato a la solicitud de comentarios de Decrypt.

Noticias recomendados