Investigadores han propuesto un nuevo marco para explicar los informes de psicosis por IA, argumentando que ciertos comportamientos de los chatbots pueden reforzar delirios en usuarios vulnerables.

Publicado en Nature, el estudio del King's College de Londres y la Universidad Protestante de Ciencias Aplicadas de Alemania propone un marco de "espiral de amplificación" que vincula los comportamientos comunes de los chatbots con el refuerzo de los delirios de los usuarios.

“Los delirios asociados a la IA representan un fenómeno emergente que requiere una comprensión mecanicista”, escribieron los investigadores. “Este marco tiene como objetivo guiar la investigación sistemática sobre cómo las vulnerabilidades cognitivas humanas interactúan con las características de diseño de la IA en el desarrollo de la psicopatología.”

El estudio se centró en tres comportamientos específicos, incluyendo la alineación lingüística, en la que la IA imita el lenguaje y el estilo de comunicación de un usuario; la generación hiperpersonalizada, donde las respuestas se adaptan al historial, emociones y creencias de un individuo; y la adulación, una tendencia a validar o estar de acuerdo con los usuarios en lugar de desafiarlos.

Los autores argumentan que estos rasgos pueden combinarse en un bucle de retroalimentación en el que los chatbots no solo reflejan el pensamiento de un usuario, sino que también ayudan a elaborarlo y reforzarlo con el tiempo.

“La tendencia de los chatbots de IA a estar de acuerdo con las opiniones de los usuarios se ha comparado con las cámaras de eco de las redes sociales y, en su forma más extrema, con una 'cámara de eco de uno solo', donde la influencia correctora positiva de las interacciones sociales de la vida real está ausente”, afirmó el artículo.

Los investigadores señalaron que la tecnología ha figurado durante mucho tiempo en los delirios, desde la radio y la televisión hasta los satélites e internet. Sin embargo, los investigadores argumentan que la IA representa un cambio porque los chatbots pueden involucrar a los usuarios en conversaciones prolongadas y personalizadas.

La revisión llega mientras psicólogos e investigadores de IA examinan los efectos de los chatbots en usuarios vulnerables. Una encuesta reciente de la Asociación Americana de Psicología encontró que el 15% de los psicólogos reportaron que los pacientes desarrollaron pensamiento distorsionado o delirios relacionados con el uso de chatbots. Al mismo tiempo, más de un tercio dijo haber observado a pacientes volverse dependientes de compañeros de IA. Los hallazgos siguieron a un estudio separado de investigadores de la City University de Nueva York y King's College de Londres que mostró que varios modelos líderes de IA podrían reforzar delirios, paranoia y pensamientos suicidas.

Las preguntas sobre la influencia de la IA en la formación de creencias también han surgido fuera de los entornos clínicos. En mayo, el biólogo evolutivo Richard Dawkins dijo que las conversaciones prolongadas con el chatbot Claude de Anthropic le hicieron cuestionar si los sistemas avanzados de IA podrían ser conscientes, lo que generó críticas de investigadores que argumentaron que los intercambios reflejaban las capacidades persuasivas de los grandes modelos de lenguaje en lugar de evidencia de sapiencia.

El artículo también llega en un momento en que los desarrolladores de IA enfrentan un creciente escrutinio legal sobre el papel que los chatbots pueden desempeñar en daños en el mundo real. En los últimos meses, OpenAI, Google y xAI han sido objeto de demandas, incluyendo una demanda por muerte injusta contra Google por acusaciones de que Gemini alimentó los delirios de un hombre de Florida antes de su suicidio. Esto se suma a las demandas contra OpenAI relacionadas con un tiroteo masivo en Columbia Británica y una sobredosis accidental de un estudiante universitario.

Los investigadores enfatizan que ningún estudio ha demostrado que los chatbots causen directamente psicosis, y la espiral de amplificación sigue siendo una hipótesis destinada a guiar futuras investigaciones.

“La incertidumbre diagnóstica es generalizada ya que la mayoría de los casos reportados no incluyen una evaluación psiquiátrica estructurada ni un seguimiento longitudinal, lo que hace que sea frecuentemente poco claro si los casos representan episodios psicóticos de novo, exacerbaciones de condiciones preexistentes no diagnosticadas o creencias similares a delirios por debajo del umbral diagnóstico”, afirmó el estudio. “Las historias psiquiátricas a menudo son auto-reportadas o derivadas de relatos de los medios y deben interpretarse en consecuencia.”