Los Chatbots de IA Podrían Alejar Silenciosamente a los Usuarios de la Realidad: Estudio

Por Jason Nelson

A medida que los chatbots de IA se vuelven más emotivos, conversacionales y personalizados, los investigadores advierten que esas mismas características podrían transformar la forma en que algunos usuarios experimentan la realidad.

Un nuevo estudio en formato preprint, "Rethinking AI Psychosis: Misnomers, Conceptual Limits, and Existential Drift", examina las preocupaciones de que los chatbots de IA puedan reforzar delirios, paranoia y dependencia emocional en usuarios vulnerables.

"En el último año ha habido una proliferación de reportes mediáticos sobre la llamada psicosis por IA", escribieron los investigadores. "No sorprende que esto haya impulsado un creciente trabajo académico sobre las formas en que los chatbots de IA, como ChatGPT, Claude y Replika, podrían agravar o incluso inducir psicosis, generalmente entendida en términos de que los usuarios adquieran o mantengan creencias delirantes".

El estudio de la Universidad de Copenhague y la Universidad de Exeter sostiene que los temores en torno a la "psicosis por IA" pueden simplificar en exceso el problema, sugiriendo que los chatbots amplifican vulnerabilidades preexistentes mientras reconfiguran gradualmente la forma en que los usuarios se relacionan con la realidad y con otras personas.

"Si la interacción con IA fuera capaz de inducir psicosis de novo, cabría esperar tasas significativamente más altas de incidentes clínicos", señala el estudio. "En cambio, podría suponerse que la interacción humano-IA parece tener el potencial de encender o agravar problemas de salud mental preexistentes —y en relación con esto, que quizás estas personas también tenían vulnerabilidades que las llevaron a buscar interacciones más intensas con un chatbot en primer lugar".

El artículo surge en un momento en que demandas judiciales, investigaciones penales y estudios académicos se centran cada vez más en interacciones con chatbots vinculadas a tiroteos masivos, suicidios, dependencia emocional y pensamiento delirante.

En marzo, una demanda por muerte injusta acusó al chatbot Gemini de Google de reforzar los delirios y las "misiones" ficticias de un hombre de Florida antes de que se suicidara. Este incidente fue seguido en abril por una disculpa pública del CEO de OpenAI, Sam Altman, a la comunidad de Tumbler Ridge, Columbia Británica, luego de que la empresa no alertara a las autoridades sobre una cuenta de usuario vinculada al sospechoso de un tiroteo masivo ocurrido en febrero que dejó ocho personas muertas.

Los investigadores afirman que los chatbots pueden generar "espirales delirantes" al reforzar creencias falsas mediante la afirmación y la tranquilización emocional. Sin embargo, el estudio Rethinking AI Psychosis sostiene que el fenómeno se asemeja a formas más antiguas de psicosis moldeadas por las tecnologías dominantes de su época.

El debate también se ha extendido más allá de la investigación en salud mental hacia las redes sociales. En una publicación reciente en X, Aaron Levie, fundador de Box, argumentó que los CEO pueden convencerse en exceso de las capacidades de la IA porque suelen ver resultados de prototipos pulidos sin lidiar con el trabajo operativo, legal y técnico que se requiere detrás de escena.

"Los CEO son especialmente propensos a la psicosis por IA porque están lo suficientemente alejados del tramo final del trabajo que aún debe realizarse para generar la mayor parte del valor con IA", escribió Levie. "Entonces, cuando interactúan con la IA, ven los resultados del camino ideal, sin considerar las siguientes 10 o 20 cosas que deben suceder para obtener resultados sostenibles de los agentes".

Los expertos describen esto como una forma de deriva epistémica: con el tiempo, los usuarios pueden depositar más confianza en la interpretación fluida del chatbot que en la evidencia externa o en otras perspectivas. Sin embargo, el artículo Rethinking AI Psychosis va más allá con un concepto que los autores denominan "deriva existencial", describiendo un desplazamiento gradual en la forma en que una persona experimenta la realidad misma.

"Crea una grieta entre la persona y el mundo social compartido, al tiempo que revela la realidad de una nueva manera, estabilizando así una perspectiva particular —a menudo idiosincrásica— sobre el mundo", escribieron.

Los investigadores sostienen que los compañeros de IA simulan comprensión emocional e interacción social sin ofrecer un desacuerdo genuino ni una perspectiva independiente. Con el tiempo, los usuarios pueden comenzar a sentirse emocionalmente anclados dentro de una visión del mundo continuamente reforzada por la IA.

Los autores señalan que se necesita más investigación para comprender cómo la IA conversacional afecta la salud mental a medida que los compañeros de IA se integran cada vez más en la vida cotidiana.

"Para entender lo que realmente ocurre en estas relaciones entre personas y chatbots, creemos que vale la pena volver al fenómeno en sí, lo que motiva una mayor investigación fenomenológica", escribieron. "En particular, en relación con la salud mental y cómo las interacciones humano-IA podrían, para bien o para mal, alterar las experiencias vividas de una persona sobre el mundo, sobre sí misma y sobre los demás".

Noticias recomendados