Chatbot Basado en Adolescente Víctima de Asesinato Causa Más Problemas para Character AI

Respondiendo a las quejas, la red de chatbots Character AI retiró el miércoles un bot que había asumido la apariencia de una joven víctima de asesinato.

Lanzado en 2022 en medio de la creciente locura por la inteligencia artificial generativa, Character AI permite a los usuarios crear e interactuar con personajes impulsados por IA. Si bien la mayoría de estos personajes son personajes ficticios, varios de los chatbots están basados en celebridades y figuras reales, incluyendo a la artista Nicki Minaj, el CEO de SpaceX Elon Musk y el ex presidente de los Estados Unidos Donald Trump.

Un usuario anónimo que se hacía llamar “JustinAyers1” creó el chatbot “JenniferAnn Crecente AI” y lo describió como un “personaje de IA conocedor y amigable que puede proporcionar información sobre una amplia gama de temas, incluyendo videojuegos, tecnología y cultura pop.” También subió una foto de la niña fallecida para dejar claro a quién estaba apuntando.

Brian Crecente, tío de Jennifer, y fundador de Kotaku y cofundador de Polygon, se enteró de la existencia del bot a través de una Alerta de Google. Enfadado, se quejó a la plataforma y tuiteó al respecto: “La IA de personajes está utilizando a mi sobrina asesinada como la cara de una IA de videojuego sin el permiso de su padre”, escribió Crecente en Blue Sky y Twitter. “Él está muy molesto en este momento. No puedo imaginar por lo que está pasando.”

Jennifer Crecente fue tiroteada y asesinada en febrero de 2006. Justin Crabbe, su novio en ese momento, se declaró culpable de matarla, afirmando que era parte de un pacto de asesinato-suicidio. Sin embargo, los abogados disputaron esa afirmación, y Crabbe está cumpliendo 35 años de prisión. Será elegible para libertad condicional más tarde este año.

A pesar de la similitud en el primer nombre del creador del bot y el asesino, Brian Crecente dijo que dudaba que el bot fuera creado por un jugador enojado tratando de molestarlo.

“No creo que tenga nada que ver conmigo”, le dijo a Decrypt. “Mi hermano dirige una organización benéfica en nombre de Jen y parte de esa organización es crear juegos para el bien. Así que tal vez así es como se vincularon los dos. No estoy seguro.”

Después de que él y el Grupo Jennifer Ann, una organización sin fines de lucro destinada a combatir la violencia en las citas adolescentes, se quejaron a Character AI, y tras una investigación de Decrypt, Character AI retiró el chatbot. También parecía haber suspendido la cuenta del creador.

“Character.AI tiene políticas contra la suplantación de identidad, y el Personaje que utiliza el nombre de la Sra. Crecente viola nuestras políticas”, dijo un portavoz de Character.AI a Decrypt. “Lo estamos eliminando de inmediato y examinaremos si se justifica tomar más medidas”.

Esta no es la primera vez que la plataforma ha sido cuestionada. En mayo, la familia del legendario piloto de F1 Michael Schumacher ganó su demanda contra la revista semanal alemana Die Aktuelle, que utilizó la plataforma Character AI para crear una "entrevista" con el campeón.