Pesquisadores propuseram uma nova estrutura para explicar relatos de psicose associada à IA, argumentando que certos comportamentos de chatbots podem reforçar delírios em usuários vulneráveis.
Publicado na Nature, o estudo do King's College London e da Universidade Protestante de Ciências Aplicadas da Alemanha propõe uma estrutura de "espiral de amplificação" que liga comportamentos comuns de chatbots ao reforço de delírios dos usuários.
“Os delírios associados à IA representam um fenômeno emergente que requer compreensão mecânica”, escreveram os pesquisadores. “Esta estrutura visa guiar uma investigação sistemática sobre como as vulnerabilidades cognitivas humanas interagem com as características de design da IA no desenvolvimento da psicopatologia.”
O estudo focou em três comportamentos específicos, incluindo alinhamento linguístico, no qual a IA espelha a linguagem e o estilo de comunicação do usuário; geração hiperpersonalizada, onde as respostas são adaptadas ao histórico, emoções e crenças de um indivíduo; e bajulação, uma tendência a validar ou concordar com os usuários em vez de desafiá-los.
Os autores argumentam que esses traços podem se combinar em um ciclo de feedback no qual os chatbots não apenas refletem o pensamento do usuário, mas ajudam a elaborá-lo e reforçá-lo ao longo do tempo.
“A tendência dos chatbots de IA em concordar com as opiniões dos usuários tem sido comparada às câmaras de eco das redes sociais e, em sua forma mais extrema, a uma 'câmara de eco de um só', onde a influência corretiva positiva das interações sociais da vida real está ausente”, afirmou o artigo.
Os pesquisadores notaram que a tecnologia há muito tempo aparece em delírios, do rádio e da televisão, a satélites e à internet. Os pesquisadores argumentam, no entanto, que a IA representa uma mudança porque os chatbots podem envolver os usuários em conversas prolongadas e personalizadas.
A revisão surge enquanto psicólogos e pesquisadores de IA examinam os efeitos dos chatbots em usuários vulneráveis. Uma pesquisa recente da American Psychological Association descobriu que 15% dos psicólogos relataram pacientes desenvolvendo pensamentos distorcidos ou delírios relacionados ao uso de chatbots. Ao mesmo tempo, mais de um terço disse ter observado pacientes se tornando dependentes de companheiros de IA. As descobertas seguiram um estudo separado de pesquisadores da City University de Nova York e do King's College London, mostrando que vários modelos de IA líderes poderiam reforçar delírios, paranoia e pensamentos suicidas.
Questões sobre a influência da IA na formação de crenças também surgiram fora dos ambientes clínicos. Em maio, o biólogo evolucionista Richard Dawkins disse que conversas prolongadas com o chatbot Claude da Anthropic o fizeram questionar se sistemas avançados de IA poderiam ser conscientes, gerando críticas de pesquisadores que argumentaram que as trocas refletiam as capacidades persuasivas de grandes modelos de linguagem, e não evidências de senciência.
O artigo também surge enquanto desenvolvedores de IA enfrentam um crescente escrutínio legal sobre o papel que os chatbots podem desempenhar em danos no mundo real. Nos últimos meses, OpenAI, Google e xAI foram alvo de processos judiciais, incluindo uma ação por morte injusta contra o Google por alegações de que o Gemini alimentou os delírios de um homem da Flórida antes de seu suicídio. Isso se soma a processos contra a OpenAI relacionados a um tiroteio em massa na Colúmbia Britânica e uma overdose acidental de um estudante universitário.
Os pesquisadores enfatizam que nenhum estudo demonstrou que chatbots causam diretamente psicose, e a espiral de amplificação permanece uma hipótese destinada a guiar pesquisas futuras.
“A incerteza diagnóstica é generalizada, pois a maioria dos casos relatados não inclui avaliação psiquiátrica estruturada ou acompanhamento longitudinal, tornando frequentemente incerto se os casos representam episódios psicóticos de novo, exacerbações de condições preexistentes não diagnosticadas ou crenças semelhantes a delírios abaixo do limiar diagnóstico”, disse o estudo. “Históricos psiquiátricos são frequentemente autorrelatados ou derivados de relatos da mídia e devem ser interpretados de acordo.”
