Дослідники запропонували нову концепцію для пояснення повідомлень про психоз, пов'язаний зі штучним інтелектом, стверджуючи, що певна поведінка чат-ботів може посилювати марення у вразливих користувачів.
Опубліковане в Nature дослідження Королівського коледжу Лондона та Протестантського університету прикладних наук Німеччини пропонує концепцію "спіралі посилення", яка пов'язує звичайну поведінку чат-ботів із посиленням марення користувачів.
«Марення, пов'язані зі ШІ, представляють нове явище, що вимагає механістичного розуміння», — написали дослідники. «Ця концепція має на меті керувати системним дослідженням того, як когнітивні вразливості людини взаємодіють з особливостями дизайну ШІ у розвитку психопатології».
Дослідження зосередилося на трьох конкретних типах поведінки, включаючи мовну відповідність, коли ШІ відображає мову та стиль спілкування користувача; гіперперсоналізовану генерацію, коли відповіді адаптуються до історії, емоцій та переконань особистості; та догідливість, тенденцію підтверджувати або погоджуватися з користувачами, а не кидати їм виклик.
Автори стверджують, що ці риси можуть об'єднуватися в петлю зворотного зв'язку, в якій чат-боти не тільки відображають мислення користувача, але й допомагають його розвивати та посилювати з часом.
«Тенденцію чат-ботів зі ШІ погоджуватися з думками користувачів порівнювали з інформаційними бульбашками в соціальних мережах, а в її найекстремальнішій формі — з «ехокамерою однієї особи», де відсутній позитивний коригуючий вплив реальних соціальних взаємодій», — йдеться в статті.
Дослідники зазначили, що технології давно фігурували в маренні, від радіо і телебачення до супутників та інтернету. Однак дослідники стверджують, що ШІ представляє собою зміну, оскільки чат-боти можуть залучати користувачів у тривалі, персоналізовані розмови.
Огляд з'являється в той час, коли психологи та дослідники ШІ вивчають вплив чат-ботів на вразливих користувачів. Недавнє опитування Американської психологічної асоціації показало, що 15% психологів повідомили про пацієнтів, у яких розвинулося спотворене мислення або марення, пов'язані з використанням чат-ботів. Водночас понад третина заявила, що спостерігала, як пацієнти ставали залежними від AI-компаньйонів. Ці висновки слідували за окремим дослідженням вчених з Міського університету Нью-Йорка та Королівського коледжу Лондона, яке показало, що кілька провідних моделей ШІ можуть посилювати марення, параною та суїцидальні думки.
Питання про вплив ШІ на формування переконань також виникали поза клінічними умовами. У травні еволюційний біолог Річард Докінз заявив, що розширені розмови з чат-ботом Anthropic Claude змусили його задуматися, чи можуть передові системи ШІ бути свідомими, що викликало критику з боку дослідників, які стверджували, що обміни відображають переконливі можливості великих мовних моделей, а не докази розумності.
Стаття також з'являється в той час, коли розробники ШІ стикаються зі зростаючим правовим контролем щодо ролі, яку чат-боти можуть відігравати в реальній шкоді. В останні місяці OpenAI, Google та xAI були об'єктами судових позовів, включаючи позов про неправомірну смерть проти Google через заяви про те, що Gemini підживлював марення чоловіка з Флориди перед його самогубством. Це на додаток до позовів проти OpenAI, пов'язаних з масовою стріляниною в Британській Колумбії та випадковим передозуванням студента коледжу.
Дослідники наголошують, що жодне дослідження не показало, що чат-боти безпосередньо викликають психоз, і спіраль посилення залишається гіпотезою, призначеною для керування майбутніми дослідженнями.
«Діагностична невизначеність поширена, оскільки більшість зареєстрованих випадків не включають структурованої психіатричної оцінки або довгострокового спостереження, що часто унеможливлює з'ясування, чи представляють випадки психотичні епізоди de novo, загострення недіагностованих попередніх станів або маревоподібні переконання нижче діагностичного порогу», — йдеться в дослідженні. «Психіатричні історії часто є самостійними повідомленнями або отримані з медіа-джерел, і їх слід інтерпретувати відповідно».
