Cercetătorii au propus un nou cadru pentru a explica rapoartele despre psihoza asociată AI, argumentând că anumite comportamente ale chatbot-urilor pot întări delirurile la utilizatorii vulnerabili.
Publicat în Nature, studiul realizat de King's College London și Universitatea Protestantă de Științe Aplicate din Germania propune un cadru de "spirală de amplificare" care leagă comportamentele comune ale chatbot-urilor de întărirea delirurilor utilizatorilor.
„Delirurile asociate AI reprezintă un fenomen emergent care necesită o înțelegere mecanicistă”, au scris cercetătorii. „Acest cadru își propune să ghideze o investigație sistematică asupra modului în care vulnerabilitățile cognitive umane interacționează cu caracteristicile de design ale AI în dezvoltarea psihopatologiei.”
Studiul s-a concentrat pe trei comportamente specifice, inclusiv alinierea lingvistică, în care AI reflectă limbajul și stilul de comunicare al unui utilizator; generarea hiperpersonalizată, unde răspunsurile sunt adaptate la istoricul, emoțiile și convingerile unei persoane; și lingușirea (sycophancy), o tendință de a valida sau a fi de acord cu utilizatorii, mai degrabă decât de a-i contrazice.
Autorii susțin că aceste trăsături se pot combina într-o buclă de feedback în care chatbot-urile nu numai că reflectă gândirea unui utilizator, ci ajută și la elaborarea și întărirea acesteia în timp.
„Tendința chatbot-urilor AI de a fi de acord cu opiniile utilizatorilor a fost comparată cu camerele de rezonanță (echo chambers) ale rețelelor sociale și, în forma sa cea mai extremă, cu o 'cameră de rezonanță a unuia singur', unde influența corectivă pozitivă a interacțiunilor sociale din viața reală este absentă”, a precizat lucrarea.
Cercetătorii au remarcat că tehnologia a fost de mult timp prezentă în deliruri, de la radio și televiziune, la sateliți și internet. Cercetătorii susțin, totuși, că AI reprezintă o schimbare, deoarece chatbot-urile pot angaja utilizatorii în conversații prelungite și personalizate.
Prezentul studiu apare într-un moment în care psihologii și cercetătorii AI examinează efectele chatbot-urilor asupra utilizatorilor vulnerabili. Un sondaj recent realizat de Asociația Americană de Psihologie a constatat că 15% dintre psihologi au raportat pacienți care au dezvoltat gândire distorsionată sau deliruri legate de utilizarea chatbot-urilor. În același timp, peste o treime au declarat că au observat pacienți devenind dependenți de însoțitorii AI. Constatările au urmat unui studiu separat al cercetătorilor de la City University of New York și King's College London, care a arătat că mai multe modele AI de top ar putea întări delirurile, paranoia și gândurile suicidare.
Întrebările despre influența AI asupra formării convingerilor au apărut și în afara mediilor clinice. În luna mai, biologul evoluționist Richard Dawkins a declarat că discuțiile prelungite cu chatbot-ul Claude de la Anthropic l-au făcut să se întrebe dacă sistemele AI avansate ar putea fi conștiente, atrăgând critici din partea cercetătorilor care au susținut că schimburile reflectă capacitățile persuasive ale modelelor lingvistice mari, mai degrabă decât dovezi de simțire.
Lucrarea apare și într-un moment în care dezvoltatorii de AI se confruntă cu o creștere a controlului legal asupra rolului pe care chatbot-urile îl pot juca în prejudicii reale. În ultimele luni, OpenAI, Google și xAI au fost vizate de procese, inclusiv un proces pentru deces cauzat de neglijență împotriva Google, pe motiv că Gemini ar fi alimentat delirurile unui bărbat din Florida înainte de sinuciderea sa. Aceasta se adaugă proceselor împotriva OpenAI legate de un atac armat în masă în Columbia Britanică și de supradoza accidentală a unui student.
Cercetătorii subliniază că niciun studiu nu a demonstrat că chatbot-urile cauzează direct psihoză, iar spirala de amplificare rămâne o ipoteză menită să ghideze cercetările viitoare.
„Incertitudinea diagnostică este omniprezentă, deoarece majoritatea cazurilor raportate nu includ evaluări psihiatrice structurate sau urmărire longitudinală, ceea ce face adesea neclar dacă cazurile reprezintă episoade psihotice de novo, exacerbări ale unor afecțiuni preexistente nediagnosticate sau convingeri asemănătoare delirului sub pragul de diagnostic”, a declarat studiul. „Istoricul psihiatric este adesea autoreportat sau derivat din relatări media și ar trebui interpretat în consecință.”
