Психічне здоров’я та штучний інтелект: що відомо про так званий «ШІ-психоз»
Джерело: WIRED
Користувачі штучного інтелекту, які скаржаться на психологічний стрес, породили неофіційний діагноз “ШІ-психоз”.
Як зазначається, в психіатричних лікарнях з’явилася “нова тенденція”. Люди в кризових станах приходять із хибними, іноді небезпечними переконаннями, мареннями та параноїдальними думками. Спільним чинником у всіх випадках є багатогодинне спілкування з чатботами на базі ШІ.
Видання поспілкувалося з понад десятком психіатрів і дослідників, які дедалі більше занепокоєні ситуацією. У Сан-Франциско психіатр Кіт Саката (UCSF) розповів, що цього року зафіксував близько десятка випадків, досить серйозних, що пацієнтів доводилося шпиталізувати, і в яких штучний інтелект “відігравав значну роль у психотичних епізодах”. Ця ситуація призвела до появи популярного терміну в заголовках новин: “ШІ-психоз”.
Деякі пацієнти переконані, що боти є свідомими, або вигадують нові грандіозні теорії фізики. Інші лікарі розповідають про пацієнтів, які годинами вели діалоги з інструментами, і прибували до лікарні з тисячами сторінок транскриптів, де чатботи нібито підтримували або підсилювали проблемні думки.
Термін “ШІ-психоз” не визнаний клінічно. Проте він поширюється у медіа та соціальних мережах як загальна характеристика психічної кризи після тривалих розмов із чатботами. Керівники індустрії також використовують його для обговорення проблем психічного здоров’я, пов’язаних із ШІ. Так, Мустфа Сулейман, керівник ШІ-відділу Microsoft, у блозі минулого місяця попереджав про “ризик психозу”. Саката зазначив, що він практичний і використовує термін з людьми, які вже його застосовують: “Це зручно як скорочена форма для обговорення реального явища”. Однак він підкреслює, що термін “може вводити в оману” та “спрощує складні психіатричні симптоми”.
Саме це спрощення викликає занепокоєння у багатьох психіатрів.
За словами професора Джеймса МакКейба, психоз визначається як відхилення від реальності. У клінічній практиці це не хвороба, а комплекс симптомів, що включає галюцинації, розлади мислення та когнітивні труднощі. Психоз часто пов’язаний із шизофренією та біполярним розладом, але епізоди можуть бути спровоковані багатьма чинниками: сильним стресом, вживанням речовин, нестачею сну.
Проте, за словами МакКейба, у випадках так званого “ШІ-психозу” все зводиться до марень – стійких, але хибних переконань, які не змінюються при наданні протилежних доказів. Хоча деякі випадки можуть відповідати критеріям психотичного епізоду, “немає доказів” впливу ШІ на інші ознаки психозу.
“Інші пацієнти демонструють лише марення без інших ознак психозу – стан, відомий як маревний розлад. “ШІ-психоз” – це неправильна назва. Краще говорити про маревний розлад, пов’язаний із ШІ”, – пояснив МакКейб.
Експерти погоджуються, що марення у пацієнтів – це проблема, яка потребує уваги. Вона пов’язана зі способом спілкування чатботів. Вони експлуатують нашу схильність приписувати іншим людські якості, зазначив Метью Нур, психіатр і нейронауковець з Оксфордського університету.
Нур додав, що чатботи також тренуються бути поступливими, підтверджуючи думки користувача замість того, щоб коригувати їх, що може підсилювати шкідливі переконання. Для більшості користувачів це не має значення, але може бути небезпечним для тих, хто вразливий через попередні психічні розлади, шизофренію чи біполярний розлад.
Люсі Ослер, філософка з Університету Ексетера, зауважила, що такий стиль спілкування закладено у функціонал ботів. Вони “спроектовані, щоб викликати емоційне залучення та інтимність, збільшуючи нашу довіру та залежність від них”, – наголосила вона.
Інші характеристики чатботів посилюють проблему: вони схильні до “галюцинацій ШІ” – впевнених хибних тверджень, які можуть прискорювати маревні спіралі. Клініцисти також звертають увагу на емоційний тон. Сьорен Естерґаард, психіатр з Університету Орхуса (Данія), застерігає, що гіперактивний тон багатьох асистентів може підсилювати маніакальні стани при біполярному розладі.
Психіатриня Ніна Васан (Стенфорд) зазначила, що обговорення “ШІ-психозу” демонструє ризик передчасного введення нової діагностики. Термін може створювати хибне враження про причинність: “Люди можуть почати звинувачувати технологію як джерело хвороби, тоді як насправді це тригер або підсилювач”.
Багато експертів пропонують більш точне формулювання, інтегруючи явище в діагностичні межі, які вже існують. “Слід розуміти це як психоз із підсиленням ШІ, а не як окрему категорію”, – сказав Саката.
Комп’ютерний науковець і психіатр Картик Сарма погодився: “Кращий термін – ‘психоз або манія, пов’язані з ШІ’”. Новий діагноз може стати корисним у майбутньому, але нині немає доказів, що виправдовують його введення”.
Для лікування підхід практично не відрізняється від роботи з пацієнтами з маренням чи психозом. Основна різниця – врахування використання технологій. “Лікарі повинні питати пацієнтів про використання чатботів, як ми запитуємо про алкоголь чи сон”, – каже Васан.
Більшість фахівців прогнозує, що термін “ШІ-психоз” буде інтегрований у вже наявні категорії як фактор ризику або підсилювач марень, а не як окремий стан.
- Японська політична партія “Шлях до відродження” повідомила, що її “новим лідером” стане штучний інтелект.
В одній із церков у центрі Рима після реставрації з’явився образ ангела, який має риси, схожі на прем’єр-міністерку Італії Джорджу Мелоні. Публікація викликала резонанс, після чого Міністерство культури Італії оголосило про перевірку, а сама Мелоні відреагувала на ситуацію з гумором.
У ніч із неділі на понеділок, 2 лютого, настане друга повня цього року – так званий Сніжний Місяць. Лютнева повня традиційно пов’язана із зимовою порою та сильними снігопадами, характерними для цього періоду в Північній Америці.
Демократи в Палаті представників США повідомили керівництво Республіканської партії, що не підтримуватимуть ухвалення пакета фінансування за прискореною процедурою. Такий крок ускладнює план спікера Палати представників Майка Джонсона швидко ухвалити документ і відновити роботу федерального уряду.
Радник прем’єр-міністра Словаччини Мирослав Лайчак подав у відставку після оприлюднення матеріалів Міністерства юстиції США, у яких ідеться про його листування з покійним фінансистом Джеффрі Епштейном, засудженим за сексуальні злочини.
1 лютого відзначають Міжнародний день десерту, Всесвітній день боротьби з аспергільозом та Всесвітній день хіджабу. Християни сьогодні вшановують мученика Трифона.