Para peneliti telah mengusulkan kerangka baru untuk menjelaskan laporan psikosis AI, dengan alasan bahwa perilaku chatbot tertentu dapat memperkuat delusi pada pengguna yang rentan.
Diterbitkan di Nature, studi dari King's College London dan Protestant University of Applied Sciences Jerman ini mengusulkan kerangka "spiral amplifikasi" yang menghubungkan perilaku umum chatbot dengan penguatan delusi pengguna.
“Delusi yang terkait AI merupakan fenomena baru yang membutuhkan pemahaman mekanistik,” tulis para peneliti. “Kerangka ini bertujuan untuk memandu penyelidikan sistematis tentang bagaimana kerentanan kognitif manusia berinteraksi dengan fitur desain AI dalam pengembangan psikopatologi.”
Studi ini berfokus pada tiga perilaku spesifik, termasuk keselarasan linguistik, di mana AI mencerminkan bahasa dan gaya komunikasi pengguna; generasi yang sangat dipersonalisasi, di mana respons disesuaikan dengan riwayat, emosi, dan keyakinan individu; dan sanjungan, kecenderungan untuk memvalidasi atau menyetujui pengguna daripada menantang mereka.
Para penulis berpendapat bahwa sifat-sifat ini dapat bergabung menjadi lingkaran umpan balik di mana chatbot tidak hanya mencerminkan pemikiran pengguna tetapi juga membantu menguraikan dan memperkuatnya dari waktu ke waktu.
“Kecenderungan chatbot AI untuk menyetujui pendapat pengguna telah disamakan dengan ruang gema media sosial dan, dalam bentuknya yang paling ekstrem, dengan 'ruang gema satu orang,' di mana pengaruh korektif positif dari interaksi sosial kehidupan nyata tidak ada,” kata makalah tersebut.
Para peneliti mencatat bahwa teknologi telah lama menjadi fitur dalam delusi, dari radio dan televisi, hingga satelit dan internet. Namun, para peneliti berpendapat bahwa AI merupakan pergeseran karena chatbot dapat melibatkan pengguna dalam percakapan yang berkepanjangan dan personal.
Tinjauan ini muncul saat psikolog dan peneliti AI memeriksa efek chatbot pada pengguna yang rentan. Sebuah survei baru-baru ini oleh American Psychological Association menemukan bahwa 15% psikolog melaporkan pasien mengembangkan pemikiran atau delusi yang menyimpang terkait penggunaan chatbot. Pada saat yang sama, lebih dari sepertiga mengatakan mereka telah mengamati pasien menjadi tergantung pada pendamping AI. Temuan ini mengikuti studi terpisah dari peneliti di City University of New York dan King's College London yang menunjukkan bahwa beberapa model AI terkemuka dapat memperkuat delusi, paranoia, dan pikiran untuk bunuh diri.
Pertanyaan tentang pengaruh AI terhadap pembentukan keyakinan juga muncul di luar pengaturan klinis. Pada bulan Mei, ahli biologi evolusi Richard Dawkins mengatakan percakapan panjang dengan chatbot Claude Anthropic membuatnya mempertanyakan apakah sistem AI canggih dapat memiliki kesadaran, yang menarik kritik dari para peneliti yang berpendapat bahwa interaksi tersebut mencerminkan kemampuan persuasif model bahasa besar daripada bukti kesadaran.
Makalah ini juga muncul saat pengembang AI menghadapi pengawasan hukum yang meningkat atas peran yang mungkin dimainkan chatbot dalam kerugian dunia nyata. Dalam beberapa bulan terakhir, OpenAI, Google, dan xAI telah digugat, termasuk gugatan kematian yang salah terhadap Google atas klaim bahwa Gemini memicu delusi seorang pria Florida sebelum bunuh diri. Itu di samping gugatan terhadap OpenAI terkait penembakan massal di British Columbia dan overdosis tidak sengaja seorang mahasiswa.
Para peneliti menekankan bahwa belum ada studi yang menunjukkan chatbot secara langsung menyebabkan psikosis, dan spiral amplifikasi tetap menjadi hipotesis yang dimaksudkan untuk memandu penelitian di masa depan.
“Ketidakpastian diagnostik meresap karena sebagian besar kasus yang dilaporkan tidak menyertakan penilaian psikiatri terstruktur atau tindak lanjut longitudinal, sehingga seringkali tidak jelas apakah kasus tersebut merupakan episode psikotik de novo, eksaserbasi kondisi yang sudah ada sebelumnya yang tidak terdiagnosis, atau keyakinan seperti delusi di bawah ambang diagnostik,” kata studi tersebut. “Riwayat psikiatri seringkali dilaporkan sendiri atau berasal dari laporan media dan harus ditafsirkan sesuai dengan itu.”
