La ONU Advierte Sobre Deepfakes Generados Por IA Que Alimentan el Odio y la Desinformación

Las Naciones Unidas han dado la alarma sobre deepfakes generados por IA que se utilizan para difundir odio y desinformación en las redes sociales. En un informe publicado el lunes, titulado "Integridad de la información en plataformas digitales", la organización global destacó la necesidad de un uso responsable de la IA.

"Aunque tiene un potencial casi inimaginable para abordar los desafíos globales, existen preocupaciones graves y urgentes sobre el igualmente poderoso potencial de los avances recientes en inteligencia artificial, incluidos los generadores de imágenes y los deepfakes de video, para amenazar la integridad de la información", dijo el informe de la ONU.

La integridad de la información se refiere a la precisión, consistencia y confiabilidad de la información, que las Naciones Unidas dicen que está amenazadas por la desinformación, la información errónea y el discurso de odio.

"Estos riesgos se han intensificado aún más debido a los rápidos avances en tecnología, como la inteligencia artificial generativa", escribió el Secretario General de las Naciones Unidas, Guterres, en la introducción del informe. "Ha quedado claro que seguir como siempre no es una opción".

La inteligencia artificial generativa es un tipo de programa, normalmente presentado en forma de chatbot, que es capaz de generar texto, imágenes u otros medios en respuesta a indicaciones.

El informe de las Naciones Unidas expresó preocupaciones sobre el efecto de deepfakes y la desinformación generada por la IA en zonas de conflicto.

El uso de discursos de odio a menudo se ha observado como precursor de crímenes atroces como el genocidio, señala la ONU. El informe también destaca que la Convención de 1948 sobre la Prevención y el Castigo del Delito de Genocidio prohíbe cualquier incitación directa o pública que pueda llevar al genocidio.

Si bien no dio ejemplos específicos, el informe de la ONU llamó la atención sobre casos recientes de inteligencia artificial generativa utilizada para crear, en algunos casos, contenidos e imágenes engañosos de manera convincente.

En marzo, una imagen generada por inteligencia artificial del ex presidente Donald Trump siendo arrestado se volvió viral después de que fuera compartida en Twitter por el fundador y director creativo de Bellingcat, Eliot Higgins. Ese mismo mes, Midjourney, la compañía detrás del generador de IA de texto a imagen del mismo nombre, terminó su versión de prueba gratuita debido al abuso generalizado.

"Todos los interesados deberían tomar medidas urgentes e inmediatas para garantizar el uso seguro, seguro, responsable, ético y compatible con los derechos humanos de la inteligencia artificial y abordar las implicaciones de los avances recientes en este campo para la propagación de la información errónea y el discurso de odio", dijo la ONU.

El informe pidió a los propietarios de plataformas digitales que inviertan en sistemas de moderación de contenido, que utilicen tanto la inteligencia artificial como la humana para todos los idiomas utilizados en los países en los que operan, y que hagan transparente la denuncia de contenido.

Agregaron que la era de la filosofía de "moverse rápido y romper cosas" del Silicon Valley debe terminar, pues, la privacidad, seguridad y transparencia del usuario son esenciales y deben ser incorporadas en la nueva tecnología desde el principio.

Guterres señaló la próxima Cumbre del Futuro en 2024 como una oportunidad para acordar soluciones multilaterales.

"Los desafíos que enfrentamos solo pueden ser abordados a través de una cooperación internacional más fuerte", dijo el Secretario General Guterres.