UNICEF Urge Criminalizar Abuso Sexual Infantil con IA tras 1,2 Millones de Víctimas de Deepfakes

UNICEF hizo el miércoles un llamado urgente a los gobiernos para que criminalicen el material de abuso sexual infantil generado por IA, citando evidencia alarmante de que al menos 1,2 millones de niños en todo el mundo tuvieron sus imágenes manipuladas en deepfakes sexualmente explícitos el año pasado.

Las cifras, reveladas en Disrupting Harm Phase 2, un proyecto de investigación liderado por la Oficina de Estrategia y Evidencia Innocenti de UNICEF, ECPAT International e INTERPOL, muestran que en algunas naciones la cifra representa uno de cada 25 niños, el equivalente a un niño en un salón de clases típico, según un comunicado del miércoles y un documento informativo que lo acompaña.

La investigación, basada en una encuesta representativa nacional a nivel de hogares de aproximadamente 11.000 niños en 11 países, destaca cómo los perpetradores ahora pueden crear imágenes sexuales realistas de un niño sin su participación o conocimiento.

En algunos países del estudio, hasta dos tercios afirmaron que les preocupa que la IA pueda ser utilizada para crear imágenes o videos sexuales falsos de ellos, aunque los niveles de preocupación varían ampliamente entre países, según los datos.

"Debemos ser claros. Las imágenes sexualizadas de niños generadas o manipuladas usando herramientas de IA son material de abuso sexual infantil (CSAM)", señaló UNICEF. "El abuso con deepfake es abuso, y no hay nada falso sobre el daño que causa".

El llamado cobra urgencia mientras las autoridades francesas allanaron el martes las oficinas de X en París como parte de una investigación criminal sobre presunta pornografía infantil vinculada al chatbot de IA de la plataforma, Grok, con fiscales citando a Elon Musk y varios ejecutivos para interrogatorio.

Un informe del Center for Countering Digital Hate publicado el mes pasado estimó que Grok produjo 23.338 imágenes sexualizadas de niños durante un período de 11 días entre el 29 de diciembre y el 9 de enero.

El documento informativo publicado junto con el comunicado señala que estos desarrollos marcan "una escalada profunda de los riesgos que enfrentan los niños en el entorno digital", donde un niño puede ver violado su derecho a la protección "sin siquiera enviar un mensaje o incluso saber que ha sucedido".

La Internet Watch Foundation del Reino Unido marcó casi 14.000 imágenes sospechosas generadas por IA en un solo foro de la dark web en un mes, alrededor de un tercio confirmadas como criminales, mientras que las autoridades surcoreanas reportaron un aumento de diez veces en delitos sexuales vinculados a IA y deepfake entre 2022 y 2024, con la mayoría de los sospechosos identificados como adolescentes.

La organización hizo un llamado urgente a todos los gobiernos para que amplíen las definiciones de material de abuso sexual infantil para incluir contenido generado por IA y criminalicen su creación, adquisición, posesión y distribución.

UNICEF también exigió que los desarrolladores de IA implementen enfoques de seguridad por diseño y que las empresas digitales prevengan la circulación de dicho material.

El documento hace un llamado a los estados para que exijan a las empresas realizar diligencias debidas sobre derechos de los niños, particularmente evaluaciones de impacto sobre derechos infantiles, y para que cada actor en la cadena de valor de la IA incorpore medidas de seguridad, incluidas pruebas de seguridad previas al lanzamiento para modelos de código abierto.

"El daño del abuso con deepfake es real y urgente", advirtió UNICEF. "Los niños no pueden esperar a que la ley se ponga al día".

La Comisión Europea lanzó una investigación formal el mes pasado sobre si X violó las reglas digitales de la UE al no evitar que Grok generara contenido ilegal, mientras que Filipinas, Indonesia y Malasia han prohibido Grok, y los reguladores en el Reino Unido y Australia también han abierto investigaciones.