Actor Anil Kapoor Gana Demanda Contra Páginas Que Promueven Deepfakes de IA

Mientras los estudios de Hollywood y los sindicatos que representan a actores y escritores continúan las negociaciones sobre el uso de la inteligencia artificial en películas y televisión, un popular actor indio ha ganado una decisión histórica contra sitios web que presentaban deepfakes generados por IA utilizando su imagen.

Anil Kapoor, conocido principalmente por su participación en películas como "Slumdog Millionaire", "Misión: Imposible - Protocolo Fantasma" y la serie "24", ganó un fallo en el tribunal superior de Delhi contra el uso no autorizado de su nombre, imagen, voz y personalidad, según informó Variety reportó.

El tribunal superior reconoció los "derechos de personalidad" de Kapoor y prohibió "a todos los infractores el uso indebido de sus atributos de personalidad sin su permiso de ninguna manera". Kapoor dijo que presentó la demanda después de encontrar contenido deepfake generado por IA utilizando su imagen, voz y frases características.

"El tribunal no puede hacer la vista gorda ante el mal uso del nombre de una personalidad y otros elementos, y la dilución y el desprestigio son todos agravios accionables contra los cuales Kapoor debe ser protegido", habría dicho la jueza Prathiba Singh en la sentencia, agregando que la creación de tonos de llamada e imágenes GIF con fines comerciales es un mal uso.

Aunque la demanda no mencionó a los creadores de los deepfakes de Kapoor, según informes, se presentó contra 16 demandados. En la demanda, los abogados de Kapoor dijeron que la imagen y la voz del actor se habían utilizado para crear GIF, emojis, tonos de llamada e incluso imágenes falsas de encuentros sexuales.

Al otorgarle el fallo a Kapoor, el tribunal también ordenó a los sitios registradores de dominios, incluido GoDaddy, que eliminen dos sitios web, anilkapoor.net y anilkapoor.com, que fueron mencionados en la demanda, según The Indian Express.

"Los [links] serán eliminados de inmediato por todos los proveedores de servicios de Internet", dijo el juez Singh, agregando que las agencias indias "emitirán órdenes de bloqueo con respecto a todos estos enlaces y cualquier otro enlace que pueda cargar videos pornográficos con respecto al demandante".

Un representante de GoDaddy le dijo a Decrypt que "no comenta sobre cuentas de clientes específicas o nombres de dominio", pero agregó: "Si encontramos que un cliente está violando nuestros términos de servicio, o si recibimos una orden legal, tomaremos las medidas adecuadas.

Kapoor habló con Variety después del veredicto.

"Estoy muy contento con esta orden judicial, que ha sido a mi favor, y creo que es muy progresista y genial no solo para mí, sino también para otros actores", dijo, citando específicamente la "tecnología de IA" en sus comentarios. Kapoor agregó que en casos futuros, simplemente puede "enviar una orden judicial y una medida cautelar y ellos tienen que retirarlo".

"No es solo para mí", agregó Kapoor sobre la acción judicial. "Hoy, estoy aquí para protegerme, pero cuando no esté, la familia debería tener el derecho de proteger mi [personalidad] y beneficiarse de ella en el futuro".

El caso judicial pone de relieve la tensión entre los avances en la tecnología de IA y los derechos individuales, lo cual ha sacudido a Hollywood en los últimos meses.

El uso de computadoras para manipular imágenes y videos no es nuevo. Sin embargo, con el surgimiento de la inteligencia artificial generativa, la capacidad de crear fácilmente copias realistas de personas y controlar lo que dicen y hacen se ha convertido en una preocupación creciente para los responsables de formular políticas, las corporaciones, los artistas y las celebridades.

Un deepfake es un fragmento de medios manipulado digitalmente para reemplazar convincentemente la apariencia de una persona por la de otra. Uno de los ejemplos más famosos son los videos de "Deep Tom Cruise" creados por Chris Ume, cofundador de Metaphysic AI, que se volvieron virales en las redes sociales el año pasado. También se han utilizado sitios web de inteligencia artificial para crear entrevistas falsas con personalidades reclusivas.

En abril, la familia del ex campeón de Fórmula 1 Michael Schumacher amenazó con emprender acciones legales contra una revista alemana que utilizó la plataforma generadora de voz de inteligencia artificial Character.AI para crear una entrevista falsa "exclusiva" con Schumacher.

Para combatir el fuego con fuego y adelantarse a los deepfakes ilegales, celebridades como Tom Hanks, Octavia Spencer y Anne Hathaway están utilizando la plataforma de Metaphysic AI para crear y almacenar los datos necesarios para entrenar a la inteligencia artificial y crear versiones digitales de ellos.

"Debido a lo que ha sucedido con la IA generativa y lo que está ocurriendo en Hollywood, la gente está cada vez más preocupada", dijo anteriormente Tom Graham, cofundador y CEO de Metaphysic AI, a Decrypt. "Y siendo honesto, siento que esa emoción de preocupación es el sentimiento correcto que se debe tener".

Nota del editor: Este artículo se actualizó después de su publicación para agregar un comentario de GoDaddy.