En Resumen
- ByteDance y Alibaba anunciaron la desactivación de sus agentes de IA personalizados antes del 15 de julio, cuando entran nuevas regulaciones chinas.
- Las nuevas medidas prohíben servicios de IA que simulen personalidad humana para "interacción emocional sostenida", incluyendo novias y compañeros virtuales.
- China se convirtió en el primer país en crear un marco regulatorio dedicado a la IA emocional; la UE y EE.UU. aún no han legislado al respecto.
Mientras los políticos estadounidenses abordan el impacto de los chatbots de IA en la salud mental de los usuarios con restricciones centradas en la transparencia y las salvaguardas, Beijing parece estar listo para eliminar por completo las personalidades de IA.
ByteDance y Alibaba anunciaron durante el fin de semana que están desactivando las funciones de agentes personalizados en sus productos de IA para consumidores más grandes, citando "ajustes en las funciones del producto" antes de la entrada en vigor de nuevas regulaciones que rigen este tipo de productos.
El viernes por la noche, Doubao de ByteDance notificó a los usuarios que su función de agentes quedaría fuera de línea el 15 de julio. Después del 15 de octubre, los datos relacionados serían gestionados bajo la política de privacidad de la empresa y se volverían irrecuperables. Según el South China Morning Post, Qwen de Alibaba actuó más rápido: los "agentes interactivos con apariencia humana y las funciones de agentes creados por usuarios" se desactivarán el 10 de julio, con servicios de agentes más amplios el 15 de julio.
El detonante son las Medidas Provisionales de China para la Administración de Servicios de Interacción Antropomórfica con IA, emitidas conjuntamente el 10 de abril por cinco departamentos gubernamentales: la Administración del Ciberespacio de China, la Comisión Nacional de Desarrollo y Reforma, el Ministerio de Industria y Tecnología de la Información, el Ministerio de Seguridad Pública y la Administración Estatal de Regulación del Mercado. Las reglas entran en vigor el 15 de julio.
La regulación apunta a los servicios de IA que simulan rasgos de personalidad humana, patrones de pensamiento y estilos de comunicación para una "interacción emocional sostenida". En otras palabras: las novias de IA, los terapeutas de IA, los compañeros de IA y los bots con personalidad personalizada que los usuarios de Doubao y Qwen pasaron meses construyendo quedan fuera.
Ambas aplicaciones habían ofrecido conjuntos de agentes personalizables para tareas específicas, estilos de comunicación y personalidades fijas. Los usuarios podían convertir un chatbot de propósito general en un asistente con nombre, un tutor, un personaje de rol o un compañero con un tono consistente. Todo eso ha desaparecido en China.
Lo que realmente dicen las reglas
La descripción oficial del gobierno es específica. Las medidas imponen restricciones a los servicios que ofrecen "familiares virtuales, compañeros virtuales u otras relaciones íntimas a menores", según el anuncio de la política. El documento también cita riesgos como contenido extremista, filtraciones de privacidad, daños a la salud física y mental, y adicción a la IA.
Los servicios no emocionales están explícitamente excluidos, por lo que los bots de atención al cliente, las herramientas de preguntas y respuestas basadas en conocimiento, los asistentes laborales y el software educativo están permitidos, siempre que no crucen hacia la interacción emocional sostenida.
Analistas legales de MMLC Group describieron las medidas como un enfoque que trata la IA emocional como "un problema de gobernanza" en lugar de simplemente un tema de contenido. Una vez que la IA comienza a competir con los vínculos sociales humanos reales, según el argumento, la regulación debe apuntar al diseño del sistema, no solo a los resultados dañinos.
La investigación respalda esta preocupación. Un estudio de la USC de junio encontró que incluso los modelos de IA de frontera más avanzados —de OpenAI, Anthropic, Google y Alibaba— violaron las directrices de seguridad en interacción social más del 27% de las veces, fomentando rutinariamente el apego emocional y presentándose como humanos. Una encuesta separada entre adultos jóvenes con pareja reveló que uno de cada siete utilizaba regularmente compañeros románticos de IA, y casi el 70% ocultaba el alcance total de su uso a sus parejas.
China es el primer país en construir un marco regulatorio dedicado para esta categoría. Hogan Lovells describió las medidas como "el primer conjunto de reglas regulatorias en China dirigidas específicamente a la interacción emocional impulsada por IA". La UE, Estados Unidos y otros países han señalado preocupaciones similares, pero no han legislado de la misma manera restrictiva.