Bob Esponja Como Terrorista y Elmo Usando un Cuchillo: Se Viralizan Imagenes de IA Impactantes

La inteligencia artificial generativa ha facilitado que la persona promedio pueda crear obras de arte y otro contenido. También ha facilitado la creación de cosas realmente salvajes y controvertidas, como imágenes generadas por IA de Bob Esponja o Kirby de Nintendo volando aviones de pasajeros hacia el World Trade Center.

Si bien los generadores de imágenes de IA se han utilizado para crear material sexual mediante deepfakes, estas herramientas también se utilizan para crear escenas de violencia o escenas arriesgadas, incluso involucrando a políticos, figuras históricas y personajes ficticios queridos.

Las plataformas de redes sociales están explotando con imágenes de stickers supuestamente creadas utilizando el generador de stickers de IA de Facebook. Estas incluyen imágenes de Elmo empuñando un cuchillo, Mickey Mouse en un inodoro, Wario y Luigi de la franquicia de Super Mario sosteniendo rifles e incluso una representación escasamente vestida del primer ministro canadiense Justin Trudeau.

"Realmente vivimos en el futuro más estúpido imaginable", escribió el artista de videojuegos Pier-Olivier Desbiens en un tweet viral que contiene algunas de las supuestas pegatinas de IA.

Cuando Decrypt se puso en contacto con Meta y preguntó sobre las pegatinas de IA, un portavoz señaló una publicación de blog de la empresa que decía en parte: "Como ocurre con todos los sistemas de IA generativa, los modelos pueden devolver salidas inexactas o inapropiadas. Continuaremos mejorando estas características a medida que evolucionen y más personas compartan sus comentarios".

La empresa matriz de Facebook, Meta, se ha sumergido de lleno en las herramientas de IA generativa en 2023, invirtiendo hasta $39 mil millones solo este año. En julio, Meta se unió a OpenAI, Google, Microsoft y otros en la promesa de desarrollar la IA de manera responsable. Esta promesa se produjo después de reuniones con la Administración Biden sobre la IA generativa.

Además de los stickers de IA que utilizan Llama 2 y Emu de Meta, el gigante de las redes sociales anunció durante su evento Meta Connect el mes pasado, el lanzamiento de una serie de herramientas generadas por IA, incluyendo asistentes de IA conversacionales para WhatsApp, Messenger e Instagram, contando con la participación de varias celebridades de alto perfil, como Snoop Dogg, Tom Brady, Kendall Jenner y Naomi Osaka, para prestar sus voces y apariencias a la línea de IA de Meta.

Además, Meta afirma que está utilizando inteligencia artificial para identificar contenido dañino de manera más rápida y precisa, entrenando sus grandes modelos de lenguaje en los "Estándares de la comunidad" de la empresa, y añade que la compañía es optimista de que la IA generativa puede ayudar a hacer cumplir sus políticas en el futuro.

Los stickers de Facebook no son la única obra de arte surrealista generada por IA que está causando sensación esta semana. Junto con SpongeBob y Kirby "ocasionando el 9/11", como se destaca en un informe de 404 Media, otros usuarios de Twitter supuestamente han estado utilizando el generador de imágenes de IA de Microsoft Bing para crear sus propias versiones controvertidas de la cultura pop, como una imagen de los personajes del anime "Neon Genesis Evangelion" pilotando un avión hacia el World Trade Center.

Si bien se puede argumentar que el genio de la IA ya está fuera de la botella, las empresas están tratando de frenar el mal uso de sus plataformas, incluyendo la implementación de políticas KYC para los usuarios, como sugirió el presidente de Microsoft, Brad Smith, en septiembre.

A principios de este año, Midjourney finalizó su versión de prueba gratuita después de que se utilizara para crear deepfakes generados por IA.

El mes pasado, OpenAI, creador de ChatGPT, lanzó la última versión de su generador de imágenes de IA Dall-E 3, que incluía nuevas medidas de seguridad y características en un intento de controlar el contenido violento, para adultos o de odio. Ese mismo mes, Getty Images lanzó una herramienta de imágenes generativas de IA entrenada en su vasta biblioteca de imágenes.

El miércoles, la empresa de creación de contenido Canva lanzó su suite de herramientas de IA generativa Magic Studio, que incluye medidas de seguridad que permitirían a la herramienta generar imágenes de celebridades o cualquier cosa relacionada con medicina o política.

"Como parte de nuestras políticas de confianza y seguridad, no permitimos que nuestra IA genere imágenes de figuras populares o públicas, personas conocidas ni propiedad intelectual de terceros", dijo Danny Wu, Jefe de Productos de IA de Canva, a Decrypt.