Fortnite Corrige Personaje de Darth Vader Impulsado por IA Tras Comenzar a Insultar

Fortnite, el desarrollador del juego Epic Games, añadió un personaje de Darth Vader impulsado por inteligencia artificial generativa en el juego, basado en la semejanza con licencia del fallecido actor de voz, James Earl Jones. Pero las cosas rápidamente se salieron de control cuando los jugadores lograron hacer que el personaje de IA dijera cosas racistas y homofóbicas junto con profanidades.

Introducido el viernes como parte del evento de cruce de Star Wars/Fortnite, "Fortnite: Batalla Galáctica", el diálogo de Darth Vader en Fortnite fue creado por la empresa de inteligencia artificial vocal con sede en Nueva York, ElevenLabs. El personaje impulsado por IA es capaz de responder a los jugadores en tiempo real.

En cuestión de horas desde su lanzamiento, comenzaron a circular clips en las redes sociales que mostraban a los jugadores incitando al villano de Star Wars impulsado por IA a decir insultos raciales y homofóbicos, así como exabruptos. Los jugadores lograron hacer que Darth Vader dijera palabras o nombres que sonaban a discursos de odio, insultos u otras groserías.

Varios jugadores han compartido videos en redes sociales mostrando al personaje reaccionando con palabras despectivas. En respuesta a uno de los clips virales, Epic Games dijo que se había implementado una corrección rápida para solucionar el sorprendente nuevo vocabulario de Vader.

"Implementamos una corrección inmediata y esto no debería volver a ocurrir", escribió la empresa en X.

Shooter de Solana 'Nyan Heroes' Cierra Por Problemas de Financiamiento

El shooter de Solana con temática de gatos Nyan Heroes está cerrando, según anunció 9 Lives Interactive el viernes, con el desarrollador citando la incapacidad de asegurar la financiación necesaria para terminar el juego. El juego de disparos gratuito recientemente completó su cuarta prueba de juego a través de la tienda de Epic Games, que incluyó un airdrop de tokens NYAN en Solana. Se había planeado el lanzamiento completo del juego para el próximo invierno. El juego de PC estilo Overwatch la...

En un correo electrónico de seguimiento enviado a Decrypt, Epic Games reconoció un descuido en la moderación de contenido antes de la incorporación de Darth Vader a Fortnite.

"Si bien agregamos varias reglas e instrucciones específicas como parte de nuestras barreras de protección para evitar que Darth Vader dijera groserías o repitiera palabras groseras, en este caso, nuestros filtros no detectaron una variación específica de una obscenidad", dijo un portavoz de Epic Games a Decrypt. "Nuestra corrección rápida aborda esta palabra específicamente".

Según el portavoz, la función de IA incluye tres capas de filtros de seguridad. La primera son las configuraciones de seguridad ajustables de Gemini. La segunda añade instrucciones del sistema para evitar que la IA genere respuestas que violen las reglas de la comunidad o puedan dañar a los jugadores. Y la tercera es una revisión final para detectar cualquier violación restante, como lenguaje ofensivo o explícito, referencias a autolesiones o menciones de actividades peligrosas o ilegales.

El Darth Vader generado por IA se construyó utilizando grabaciones archivadas de la voz de James Earl Jones. Jones, quien falleció en 2024, había licenciado previamente su semejanza vocal a Lucasfilm, permitiendo que la representación del personaje continuara en nuevos medios incluso después de su fallecimiento.

"Darth Vader no sería tan siniestro sin la legendaria actuación de James Earl Jones, quien dio voz a Vader en las películas de 'Star Wars'", dijo Epic Games en un comunicado. "Nos sentimos honrados de presentar la voz del fallecido Sr. Jones y agradecemos a su patrimonio por la oportunidad de hacer esto posible para los jugadores".

Desde 2023, la empresa ha adoptado creaciones de IA generativa a través de su plataforma Epic Games Store, incluso mientras los competidores han luchado por bloquear la tecnología emergente.

Esta no es la primera vez que el contenido generado por IA ha sido motivo de preocupación en Fortnite. En enero de 2024, Epic se apresuró a eliminar imágenes racistas generadas por IA para islas creadas por usuarios tras las protestas de los jugadores. En ese momento, Epic Games dijo que todas las islas creadas por usuarios son revisadas por moderadores antes de publicarse, pero señaló que el equipo adopta un enfoque ligero.

"Pedimos a nuestro equipo de moderación que asuma buenas intenciones por parte del creador si no están seguros sobre una violación de contenido, para no censurar en exceso", dijo Epic Games.

Editado por Andrew Hayward