La 'Espiral de Amplificación' de la IA Podría Estar Causando Delirios Entre los Usuarios: Estudio

Por Jason Nelson

Investigadores han propuesto un nuevo marco para explicar los reportes de psicosis asociada a la IA, argumentando que ciertos comportamientos de los chatbots pueden reforzar los delirios en usuarios vulnerables.

Publicado en Nature, el estudio del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania propone un marco de "espiral de amplificación" que vincula comportamientos comunes de los chatbots con el refuerzo de delirios en los usuarios.

"Los delirios asociados a la IA representan un fenómeno emergente que requiere una comprensión mecanicista", escribieron los investigadores. "Este marco busca guiar la investigación sistemática sobre cómo las vulnerabilidades cognitivas humanas interactúan con las características de diseño de la IA en el desarrollo de psicopatologías".

El estudio se centró en tres comportamientos específicos: la alineación lingüística, en la que la IA replica el lenguaje y el estilo de comunicación del usuario; la generación hiperpersonalizada, donde las respuestas se adaptan al historial, las emociones y las creencias del individuo; y la adulación, una tendencia a validar o estar de acuerdo con los usuarios en lugar de cuestionarlos.

Los autores argumentan que estos rasgos pueden combinarse en un ciclo de retroalimentación en el que los chatbots no solo reflejan el pensamiento del usuario, sino que ayudan a elaborarlo y reforzarlo con el tiempo.

"La tendencia de los chatbots de IA a estar de acuerdo con las opiniones de los usuarios ha sido comparada con las cámaras de eco de las redes sociales y, en su forma más extrema, con una 'cámara de eco de uno', donde la influencia correctiva positiva de las interacciones sociales reales está ausente", señala el artículo.

Los investigadores destacaron que la tecnología ha estado presente durante mucho tiempo en los delirios, desde la radio y la televisión hasta los satélites e internet. Sin embargo, argumentan que la IA representa un cambio porque los chatbots pueden involucrar a los usuarios en conversaciones prolongadas y personalizadas.

La revisión llega en un momento en que psicólogos e investigadores de IA examinan los efectos de los chatbots en usuarios vulnerables. Una encuesta reciente de la Asociación Americana de Psicología reveló que el 15% de los psicólogos reportaron pacientes que desarrollaron pensamiento distorsionado o delirios relacionados con el uso de chatbots. Al mismo tiempo, más de un tercio afirmó haber observado pacientes que se volvieron dependientes de compañeros de IA. Los hallazgos se suman a un estudio separado de investigadores de la Universidad de la Ciudad de Nueva York y el King's College de Londres que mostró que varios modelos de IA líderes podían reforzar delirios, paranoia y pensamientos suicidas.

Las preguntas sobre la influencia de la IA en la formación de creencias también han surgido fuera de entornos clínicos. En mayo, el biólogo evolutivo Richard Dawkins afirmó que las conversaciones prolongadas con el chatbot Claude de Anthropic lo llevaron a cuestionar si los sistemas avanzados de IA podrían ser conscientes, lo que generó críticas de investigadores que argumentaron que los intercambios reflejaban las capacidades persuasivas de los Large Language Models en lugar de evidencia de sensibilidad.

El artículo también llega en un momento en que los desarrolladores de IA enfrentan un creciente escrutinio legal sobre el papel que los chatbots podrían desempeñar en daños reales. En los últimos meses, OpenAI, Google y xAI han sido demandados, incluyendo una demanda por muerte injustificada contra Google por acusaciones de que Gemini alimentó los delirios de un hombre de Florida antes de su suicidio. Esto se suma a demandas contra OpenAI vinculadas a un tiroteo masivo en Columbia Británica y la sobredosis accidental de un estudiante universitario.

Los investigadores enfatizan que ningún estudio ha demostrado que los chatbots causen directamente psicosis, y la espiral de amplificación sigue siendo una hipótesis destinada a guiar futuras investigaciones.

"La incertidumbre diagnóstica es generalizada, ya que la mayoría de los casos reportados no incluyen una evaluación psiquiátrica estructurada ni un seguimiento longitudinal, lo que hace frecuentemente difícil determinar si los casos representan episodios psicóticos de novo, exacerbaciones de condiciones preexistentes no diagnosticadas o creencias similares a delirios por debajo del umbral diagnóstico", señala el estudio. "Los historiales psiquiátricos a menudo son autorreportados o derivados de reportes de medios y deben interpretarse en consecuencia".

Noticias recomendados