Civitai Enfrenta Usuarios Enojados Tras Prohibir Contenido Atrevido en su Sitio de Arte de IA

Civitai, antes considerado el Salvaje Oeste del arte generado por IA —y uno de los últimos refugios donde casi todo estaba permitido— provocó una crisis generalizada en la comunidad tras implementar estrictas nuevas directrices de contenido la semana pasada.

Si bien el sitio no era explícitamente una página pornográfica, sí atendía a varias comunidades de contenido para adulto, incluyendo furries, anime para adultos, BDSM extremo y más.

"Estamos actualizando nuestras políticas para cumplir con el creciente escrutinio en torno al contenido de IA. Las nuevas reglas prohíben ciertas categorías de contenido, incluido incesto, autolesiones, pañales y una serie de excreciones corporales. Todas las cargas de contenido para adulto ahora requieren metadatos para permanecer visibles. Un nuevo sistema de moderación busca mejorar el etiquetado y la seguridad del contenido", escribió Civitai en una publicación la semana pasada.

Estas reglas prohíben efectivamente contenido que era popular entre ciertos segmentos de usuarios. Además, las nuevas políticas han neutralizado efectivamente las opciones de monetización para imágenes que presentan personas reales, particularmente celebridades.

Y, por supuesto, los creadores no están exactamente entusiasmados por perder la capacidad de descargar recursos para generar personajes que satisfagan sus fantasías más explícitas —y extrañas—. La publicación de Civitai actualmente tiene más de 950 reacciones adversas frente a 375 votos de apoyo.

Las quejas se han multiplicado rápidamente en Reddit y X, con usuarios lamentando la abrupta desaparición de su contenido y quejándose por la falta de explicaciones claras.

"No tiene sentido", dijo a Decrypt Dario Hernandez, uno de los 3,2 millones de usuarios de la plataforma. "Es decir, los personajes en estas generaciones no existen, no lastiman a nadie, y a nadie debería importarle".

 Artificial Intelligence

Secret Reddit Experiment Using AI Personas Sparks Ethics Scandal in Academia

Researchers at the University of Zurich have sparked outrage after secretly deploying AI bots on Reddit that pretended to be rape survivors, trauma counselors, and even a "Black man opposed to Black Lives Matter"—all to see if they could change people's minds on controversial topics. Spoiler alert: They could. The covert experiment targeted the r/ChangeMyView (CMV) subreddit, where 3.8 million humans (or so everyone thought) gather to debate ideas and potentially have their opinions changed thro...

"¿Alguien más ha perdido completamente la motivación para interactuar con Civitai y compartir modelos?", escribió el usuario de Reddit TitanUranus, reflejando la irritación más amplia de la comunidad.

Civitai ha introducido pautas más estrictas en torno a "Buzz", su moneda virtual, lo que significa que los creadores ahora pueden despedirse de ganar ingresos fácilmente con sus creaciones más... cuestionables.

Muchos usuarios sospechan que estas restricciones de políticas se deben a presiones externas, especialmente de gigantes de pagos como Visa y Mastercard, que históricamente han adoptado una línea dura sobre contenido para adultos.

Junto con las crecientes preocupaciones legales sobre imágenes generadas por IA, Civitai parece estar atrapado entre mantener felices a los procesadores de pago y aplacar a una comunidad creativa pero a veces provocativa.

"El problema es 100% causado por Visa, y cualquier empresa que acepte tarjetas Visa eventualmente agregará estas restricciones", escribió Alex Cardinel, CEO de la plataforma de IA Nomi, en una extensa publicación en Reddit. "Actualmente no hay forma de evitar esto, aunque personalmente estoy trabajando muy duro en alternativas sostenibles a largo plazo".

Civitai no respondió de inmediato a la solicitud de comentarios de Decrypt.

Para proteger su derecho a generar cosas extrañas y salvaguardar sus preciados LoRAs —modelos pequeños, pero altamente personalizados, entrenados en un concepto o estilo específico— muchos usuarios han tomado medidas proactivas.

Las descargas por pánico se han convertido en un pasatiempo, con comunidades como r/CivitaiArchives surgiendo para archivar contenido potencialmente en peligro.

Otros, hartos de los costos crecientes y la libertad creativa limitada, están cambiando hacia herramientas locales de generación de IA.

"Simplemente, crea tus propias imágenes degeneradas localmente si te gusta ese tipo de cosas", escribió el usuario de Reddit BlackdragonBE el miércoles. "Tu primer error fue pensar que Civitai era un sitio pornográfico".

Otros tomaron la ruta descentralizada, abogando por compartir sus LoRAs, modelos y recursos a través de torrents.

Los dos mejores sitios para buscar modelos eliminados en este momento parecen ser TensorArt (básicamente un clon de Civitai), DiffusionArc y el Civitai Archive.

A pesar de comprender la necesidad de cumplir con las demandas externas, los usuarios se sienten traicionados por el aparentemente interminable flujo de restricciones, temiendo el día en que incluso el contenido levemente arriesgado pueda ser el próximo en la lista de eliminación.

Editado por Josh Quittner y Sebastian Sinclair