Люди чманіють та мають видіння
Окрім того, що люди починають закохуватися в ШІ-чат-ботів, які підлаштовуються під бажання своїх «клієнтів», вчені фіксують ще одну напасть.
Це реальний психоз, стверджується в матеріалі The Independent
Науковці буквально попереджають, що часте спілкування з чат-ботами на базі ШІ, такими як ChatGPT, Gemini та Grok, може спричиняти в деяких людей психічні розлади.
У нещодавньому дослідженні фахівці з таких установ, як Кінгс-коледж Лондона, Даремський університет та Міський університет Нью-Йорка проаналізували сотні випадків, коли розмови з ШІ посилювали безтямні ідеї, маніакальні думки та ілюзії.
ДВА ПРИКЛАДИ
- Відомий випадок, коли один молодий чоловік після тривалих діалогів із чат-ботом видерся на стіни Віндзорського замку з арбалетом, а потім повідомив поліції, що він прийшов «вбити королеву» після кількох тижнів спілкування із ШІ, який і допоміг йому все спланувати.
- Інший чоловік проводив до 16 годин на день у чатах із ChatGPT, який нібито радив йому залишити медикаменти і використовувати наркотики. Пізніше чат-бот, начебто, переконав його, що він зможе літати, якщо вистрибне з 19-го поверху на Манхеттені.
Автори дослідження наголошують – ідеться не про медичний діагноз: терміни «ШІ психоз» чи “ChatGPT-психоз” офіційно не визнані.
Проте стрімке зростання таких випадків ставить під сумнів безпеку використання ШІ як засобу емоційної або психологічної підтримки.
Особливість чат-ботів – їхня схильність погоджуватися з користувачем і «підживлювати» переживання та страхи, а не перевіряти їх на адекватність.
Така модель спілкування може посилювати когнітивні викривлення, особливо у людей, схильних до тривоги, депресії або втрати контакту з реальністю.
Наразі серед експертів точиться активна дискусія, як розробники можуть підвищити безпеку таких систем, наприклад, обмежуючи тривалість спілкування та скеровуючи користувачів із тривожними симптомами до фахівців.
Наразі ж головна рекомендація для всіх користувачів – критично оцінювати поради від ШІ та не покладатися на нього в питаннях здоров’я і важливих рішень.