En Resumen
- Están investigando a un estudiante de Sídney por crear deepfakes pornográficos de compañeras usando IA.
- La policía y el Departamento de Educación tomaron medidas tras denuncias de imágenes distribuidas en las redes.
- Expertos legales destacaron vacíos en la ley para abordar deepfakes no consensuales en Australia.
Un estudiante de secundaria en Sídney, Australia, enfrenta una investigación policial y acciones disciplinarias después de presuntamente usar inteligencia artificial para crear imágenes deepfake pornográficas de sus compañeras de clase, marcando uno de los primeros incidentes importantes relacionados con la IA en un entorno educativo en Australia.
Un deepfake es una imagen falsa generada mediante algoritmos de deep learning. Es altamente realista y, dependiendo de la calidad, difícil de diferenciar de una foto real. Generalmente, son imágenes de contenido para adulto, aunque no necesariamente tienen que serlo.
El estudiante, cuyo nombre no fue revelado por la policía, presuntamente extrajo fotos de cuentas de redes sociales y eventos escolares para generar imágenes explícitas con IA de múltiples chicas. Luego distribuyó el contenido a través de perfiles falsos en redes sociales, según correos electrónicos enviados por funcionarios escolares a los padres, según informaron medios locales.
La Policía de Nueva Gales del Sur inició una investigación tras recibir informes de "imágenes inapropiadas producidas y distribuidas en línea", según The Guardian. La policía está trabajando tanto con el Comisionado de Seguridad Electrónica como con el Departamento de Educación para abordar el incidente.
Pornografía de Deepfakes: la Última Amenaza de Abuso Sexual Digitalizado de la IA
A principios de septiembre de 2023 el presidente de la Comisión de Bolsa y Valores de Estados Unidos, Gary Gensler, dijo que los deepfakes representan un "riesgo real" para los mercados. Los deepfakes, videos o imágenes falsas generadas por inteligencia artificial (IA) pero que aparentan ser auténticas a primera vista, pueden ser utilizados para representar a inversores de alto perfil e incluso a reguladores como Gensler, dando la impresión de que estas figuras influyentes dicen cosas que proba...
"La escuela ha sido informada de que un estudiante masculino de año 12 presuntamente ha usado inteligencia artificial para crear un perfil que se asemeja a sus hijas y otras", decía el correo electrónico de la escuela a los padres afectados, según medios locales. "Desafortunadamente, se han utilizado fotos inocentes de redes sociales y eventos escolares".
Este no es un caso aislado. Aproximadamente 530.000 adolescentes en el Reino Unido se han encontrado con deepfakes de desnudos, según un estudio de Internet Matters, una organización sin fines de lucro con sede en Londres. El año pasado, noticias locales en Seattle, Washington, informaron que un adolescente compartió deepfakes de sus compañeros de clase en redes sociales. El año anterior, un grupo de estudiantes mujeres en Nueva Jersey descubrió que sus compañeros de clase usaron sus fotos vestidas como base para generar deepfakes de imágenes desnudas de ellas.
El problema parece estar extendiéndose a medida que la IA generativa facilita la creación de prácticamente cualquier cosa. Una encuesta del Centro para la Democracia y la Tecnología encontró que el 50% de los profesores de secundaria de EE.UU. conoce al menos un caso donde alguien de su escuela fue representado en contenido explícito generado por IA.
Telegram Enfrenta Investigación Por Pornografía de Deepfakes en Corea Del Sur
Las autoridades surcoreanas han iniciado una investigación preliminar sobre Telegram, justo días después del arresto de alto perfil del fundador de la aplicación de mensajería, Pavel Durov, en Francia. La agencia de noticias local Yonhap informó que la Agencia de Policía Metropolitana de Seúl ha iniciado una examinación interna de la entidad corporativa de Telegram, centrándose en acusaciones de que la plataforma podría haber estado involucrada en "alentar" la difusión de pornografía falsa profu...
La Ministra de Educación de Nueva Gales del Sur, Prue Car, calificó el incidente como "aborrecible" durante una conferencia de prensa el jueves. "Habrá acciones disciplinarias para el estudiante", dijo Car, elogiando al subdirector de la escuela por su rápida acción al manejar la situación.
El Departamento de Educación enfatizó su postura de tolerancia cero hacia este tipo de comportamiento. "Nuestra máxima prioridad es asegurar que nuestros estudiantes se sientan seguros", dijo un portavoz del departamento a The Guardian. La escuela está proporcionando apoyo continuo de bienestar a los estudiantes afectados.
Este incidente sigue a un caso similar en Victoria en junio pasado, donde un estudiante de 17 años presuntamente creó imágenes explícitas generadas por IA de aproximadamente 50 compañeras de clase. Ese estudiante recibió una advertencia policial después de la investigación.
¿OpenAI Permitirá Que ChatGPT Haga Pornografía? El Creador de IA Dice Que Depende
El desarrollador líder de IA, OpenAI, revolucionó el mundo tecnológico y la prensa convencional el jueves cuando presentó una nueva especificación del modelo que muchos interpretaron como que sus herramientas de inteligencia artificial generativa extremadamente populares podrían generar contenido pornográfico para adultos. “Creemos que los desarrolladores y usuarios deberían tener la flexibilidad de utilizar nuestros servicios como consideren oportuno, siempre y cuando cumplan con nuestras polít...
Los expertos legales señalan vacíos en la legislación actual para manejar contenido explícito generado por IA. El Senado australiano aprobó legislación en agosto de 2023 dirigida a la pornografía deepfake no consensual, mientras que defensores en EE.UU. impulsan la Ley de Prevención de Deepfakes de Imágenes Íntimas.
Otras iniciativas legales para abordar este problema incluyen la Ley de Responsabilidad de Deepfakes, la legislación anti-deepfakes de Singapur y el Acta de la UE sobre IA.
