MidJourney Bloquea Imágenes del Presidente de China, Encendiendo Debate Sobre la Ética de la IA

La inteligencia artificial generativa como MidJourney y Dall-e permiten a los usuarios crear todo tipo de falsificaciones. En los últimos días, imágenes falsas del ex presidente de Estados Unidos, Donald Trump, huyendo de la policía, el presidente ruso Putin acariciando un gatito y hasta el Papa con un abrigo blanco inflado de Balenciaga han rebotado por la web. ¿Qué no puedes hacer?

No puedes crear una imagen del presidente chino Xi Jinping, al menos no en la plataforma de inteligencia artificial generativa Midjourney.

Para frenar la propagación de deepfakes en línea, Midjourney la semana pasada dijo que pondría fin a su versión de prueba gratuita, pero la plataforma aún puede generar imágenes de líderes mundiales, con la excepción del presidente chino. Si intentas hacerlo, Midjourney, una empresa con sede en San Francisco, te informa que está prohibido. Ni siquiera puedes usar el nombre del presidente de China en una solicitud:

Los críticos argumentan que la prohibición constituye una forma de censura, socavando los principios fundamentales de la libertad de expresión.

"La forma en que funciona el mundo hoy en día, y cuán estrechamente entrelazados estamos todos, sí importa qué leyes de expresión existen en otros lugares", dijo Sarah McLaughlin, Académica Principal de la Fundación para los Derechos Individuales y la Expresión (FIRE, por sus siglas en inglés), a Decrypt en una entrevista. "Ese mercado o ese gobierno podrían ser lo suficientemente poderosos como para afectar cómo operan las empresas estadounidenses".
FIRE es una organización sin fines de lucro con sede en Filadelfia que defiende los derechos a la libertad de expresión en los Estados Unidos, centrándose en los campus universitarios. La fundación, agregó McLaughlin, se expandió recientemente para convertirse en un "grupo de libre expresión y de la Primera Enmienda de propósito general".

McLaughlin dijo que las personas suelen cometer el error de considerar la censura internacional como algo irrelevante para ellas.

Cuando surgió el tema de la censura en el servidor de Discord de Midjourney el año pasado, el CEO de Midjourney, David Holz, dijo que la compañía quiere minimizar el drama.

"No hay planes malvados, básicamente solo queremos minimizar el drama", dijo Holz al abordar el tema en junio pasado.

En una publicación de junio de 2022 en el servidor de Discord de Midjourney, Holz destacó la diferencia en cómo se recibe la sátira política en las naciones occidentales en comparación con China y reconoció que la sátira política típica en Occidente podría causar problemas en China e incluso poner en peligro a los usuarios.

Hay una larga historia de creación de imágenes satíricas de líderes mundiales, especialmente en los Estados Unidos, donde la libertad de expresión está consagrada en la Constitución, pero no tanto en otros países.

"No es solo una cuestión de ley estadounidense versus ley china", dijo McLaughlin. "Es más complejo que eso, y es posible que descubramos que las herramientas que usamos terminan siguiendo las leyes de otros países en lugar de las nuestras, de formas que no anticipamos".

Holz sugirió que el bien mayor es permitir que la gente de China use la tecnología en lugar de fomentar la sátira política.

"Creo que las personas en China que usan esta tecnología mueven la aguja en el mundo en general en una dirección positiva", dijo Holz. "La gente común aquí haciendo sátira política china aporta muy poco a cualquier cosa; el análisis de costo-beneficio parece claro".

Los defensores de estas restricciones pueden decir que son necesarias para evitar la propagación de la desinformación y el posible abuso de la tecnología de IA. A pesar de la restricción sobre las imágenes del presidente Xi, sin embargo, McLaughlin no ve que el tiempo de MidJounrey en China dure mucho.
"No me sorprendería si China finalmente bloquea el acceso a esto, a pesar de las restricciones, ya que tienden a excluir a las empresas occidentales", dijo.

McLaughlin señaló que lo que está haciendo Midjourney está fuera de lo común, citando una decisión reciente de Twitter de censurar contenido en India.

"Twitter enfrentó problemas de censura en India recientemente, con demandas del gobierno para censurar un documental de la BBC sobre el Primer Ministro Modi", dijo McLaughlin. "Twitter bloqueó el contenido solo en India, no a nivel mundial. Por otro lado, Mid-Journey está haciendo que nadie pueda usar el nombre de Xi Jinping, lo cual es una escalada respecto a solo bloquear a los usuarios chinos."