En Resumen
- Epic Games elimin[o imágenes generadas por IA racistas en Fortnite tras protestas de jugadores.
- Algunos usuarios subieron mapas con estereotipos racistas, como "Arab Zonewars" y "Nigerian Zonewars".
- Epic Games sancionó a los creadores, eliminó las islas ofensivas y advirtió que violar las reglas podría resultar en prohibiciones permanentes de las cuentas.
Siguiendo las protestas de los jugadores, Epic Games está eliminando las imágenes generadas por IA racistas subidas por los usuarios al popular juego de batalla real Fortnite, según un informe de Kotaku.
Una de las características que hizo de Fortnite el exitoso juego en línea que es hoy en día, es la capacidad de los usuarios de crear sus propios mapas y compartir experiencias jugables con el mundo. Sin embargo, esta salida para la creatividad significa que los usuarios pueden potencialmente subir contenido problemático, como ha sucedido en esta oportunidad.
Recientemente, los usuarios comenzaron a notar mapas de islas con imágenes generadas por IA groseras que perpetúan estereotipos racistas. Como informó Kotaku, ejemplos de mapas incluyen aquellos con nombres como "Arab Zonewars", "Nigerian Zonewars" y "China Zonewars".
Los mapas presentaban imágenes racistas y aparentemente generadas por IA que perpetúan estereotipos, incluyendo hombres del Medio Oriente sosteniendo bombas y hombres negros comiendo pollo frito. Si bien la mayoría de estos mapas tenían pequeñas poblaciones de servidores, un mapa llamado "Jamaica Zonewars", tenía más de 35.000 jugadores activos a principios de este mes.
"Muchas de las islas mencionadas ya han sido eliminadas y los creadores han sido sancionados", dijo Epic Games a Kotaku en un comunicado. "Ya hemos abordado más de 100 islas con violaciones de contenido que utilizan este formato de miniatura similar y continuaremos haciéndolo".
Epic Games agregó que el contenido discriminatorio no tiene lugar en Fortnite y viola las reglas de creación de islas de la compañía, y que los usuarios que violen estas pautas podrían tener sus cuentas permanentemente prohibidas.
"Nuestro equipo de moderación revisa todo el contenido antes de su publicación, y estamos actualizando activamente nuestras reglas para la creación de islas y nuestros programas de capacitación en moderación para minimizar la cantidad de mapas que violen nuestras normas y lleguen a los jugadores", dijo Epic Games. "Animamos a los jugadores a informar cualquier isla que vean que pueda violar nuestras reglas".
En un comunicado proporcionado a GG de Decrypt, Epic Games dijo que todas las islas creadas por los usuarios son revisadas por moderadores antes de su publicación, pero que el equipo adopta un enfoque ligero.
"Solicitamos a nuestro equipo de moderación que asuma una buena intención por parte del creador si no están seguros acerca de una violación de contenido para no censurar en exceso", dijo Epic Games. "A veces esto significa que se publican cosas que no deberían, y trabajamos rápidamente para eliminar cualquier contenido ofensivo y redactar nuevos materiales de capacitación para nuestros moderadores. Los creadores que se encuentren en violación de nuestras reglas para creadores enfrentarán una variedad de acciones de cumplimiento, incluyendo prohibiciones permanentes de publicación y monetización".
El editor agregó que está trabajando en la actualización de sus "reglas para creadores de islas y programas de capacitación en moderación".
Uniéndose a la locura de la IA generativa, la Epic Store Games comenzó a permitir juegos y presentaciones que presentaban arte de IA y otros elementos en septiembre. Esto ocurrió después de que la plataforma rival de juegos para PC, Steam, inicialmente adoptara una postura en contra del contenido de IA, pero desde entonces ha flexibilizado sus reglas ante el aumento de tales presentaciones.
"No prohibimos juegos por usar nuevas tecnologías", escribió Tim Sweeney, fundador y CEO de Epic Games, en Twitter en ese momento.
Mientras que los desarrolladores de IA han invertido mucho tiempo y dinero en eliminar imágenes ofensivas de sus modelos, los usuarios han encontrado formas de hackear o evadir los controles de los modelos utilizando indicaciones especializadas. En octubre, imágenes generadas por IA de Bob Esponja y Kirby de Nintendo volando aviones de pasajeros en el World Trade Center se volvieron virales.
Editado por Andrew Hayward