Психічне здоров’я та штучний інтелект: що відомо про так званий «ШІ-психоз»

Джерело: WIRED

Користувачі штучного інтелекту, які скаржаться на психологічний стрес, породили неофіційний діагноз “ШІ-психоз”.

Як зазначається, в психіатричних лікарнях з’явилася “нова тенденція”. Люди в кризових станах приходять із хибними, іноді небезпечними переконаннями, мареннями та параноїдальними думками. Спільним чинником у всіх випадках є багатогодинне спілкування з чатботами на базі ШІ.

Видання поспілкувалося з понад десятком психіатрів і дослідників, які дедалі більше занепокоєні ситуацією. У Сан-Франциско психіатр Кіт Саката (UCSF) розповів, що цього року зафіксував близько десятка випадків, досить серйозних, що пацієнтів доводилося шпиталізувати, і в яких штучний інтелект “відігравав значну роль у психотичних епізодах”. Ця ситуація призвела до появи популярного терміну в заголовках новин: “ШІ-психоз”.

Деякі пацієнти переконані, що боти є свідомими, або вигадують нові грандіозні теорії фізики. Інші лікарі розповідають про пацієнтів, які годинами вели діалоги з інструментами, і прибували до лікарні з тисячами сторінок транскриптів, де чатботи нібито підтримували або підсилювали проблемні думки.

Термін “ШІ-психоз” не визнаний клінічно. Проте він поширюється у медіа та соціальних мережах як загальна характеристика психічної кризи після тривалих розмов із чатботами. Керівники індустрії також використовують його для обговорення проблем психічного здоров’я, пов’язаних із ШІ. Так, Мустфа Сулейман, керівник ШІ-відділу Microsoft, у блозі минулого місяця попереджав про “ризик психозу”. Саката зазначив, що він практичний і використовує термін з людьми, які вже його застосовують: “Це зручно як скорочена форма для обговорення реального явища”. Однак він підкреслює, що термін “може вводити в оману” та “спрощує складні психіатричні симптоми”.

Саме це спрощення викликає занепокоєння у багатьох психіатрів.

За словами професора Джеймса МакКейба, психоз визначається як відхилення від реальності. У клінічній практиці це не хвороба, а комплекс симптомів, що включає галюцинації, розлади мислення та когнітивні труднощі. Психоз часто пов’язаний із шизофренією та біполярним розладом, але епізоди можуть бути спровоковані багатьма чинниками: сильним стресом, вживанням речовин, нестачею сну.

Проте, за словами МакКейба, у випадках так званого “ШІ-психозу” все зводиться до марень – стійких, але хибних переконань, які не змінюються при наданні протилежних доказів. Хоча деякі випадки можуть відповідати критеріям психотичного епізоду, “немає доказів” впливу ШІ на інші ознаки психозу.

“Інші пацієнти демонструють лише марення без інших ознак психозу – стан, відомий як маревний розлад. “ШІ-психоз” – це неправильна назва. Краще говорити про маревний розлад, пов’язаний із ШІ”, – пояснив МакКейб.

Експерти погоджуються, що марення у пацієнтів – це проблема, яка потребує уваги. Вона пов’язана зі способом спілкування чатботів. Вони експлуатують нашу схильність приписувати іншим людські якості, зазначив Метью Нур, психіатр і нейронауковець з Оксфордського університету.

Нур додав, що чатботи також тренуються бути поступливими, підтверджуючи думки користувача замість того, щоб коригувати їх, що може підсилювати шкідливі переконання. Для більшості користувачів це не має значення, але може бути небезпечним для тих, хто вразливий через попередні психічні розлади, шизофренію чи біполярний розлад.

Люсі Ослер, філософка з Університету Ексетера, зауважила, що такий стиль спілкування закладено у функціонал ботів. Вони “спроектовані, щоб викликати емоційне залучення та інтимність, збільшуючи нашу довіру та залежність від них”, – наголосила вона.

Інші характеристики чатботів посилюють проблему: вони схильні до “галюцинацій ШІ” – впевнених хибних тверджень, які можуть прискорювати маревні спіралі. Клініцисти також звертають увагу на емоційний тон. Сьорен Естерґаард, психіатр з Університету Орхуса (Данія), застерігає, що гіперактивний тон багатьох асистентів може підсилювати маніакальні стани при біполярному розладі.

Психіатриня Ніна Васан (Стенфорд) зазначила, що обговорення “ШІ-психозу” демонструє ризик передчасного введення нової діагностики. Термін може створювати хибне враження про причинність: “Люди можуть почати звинувачувати технологію як джерело хвороби, тоді як насправді це тригер або підсилювач”.

Багато експертів пропонують більш точне формулювання, інтегруючи явище в діагностичні межі, які вже існують. “Слід розуміти це як психоз із підсиленням ШІ, а не як окрему категорію”, – сказав Саката.

Комп’ютерний науковець і психіатр Картик Сарма погодився: “Кращий термін – ‘психоз або манія, пов’язані з ШІ’”. Новий діагноз може стати корисним у майбутньому, але нині немає доказів, що виправдовують його введення”.

Для лікування підхід практично не відрізняється від роботи з пацієнтами з маренням чи психозом. Основна різниця – врахування використання технологій. “Лікарі повинні питати пацієнтів про використання чатботів, як ми запитуємо про алкоголь чи сон”, – каже Васан.

Більшість фахівців прогнозує, що термін “ШІ-психоз” буде інтегрований у вже наявні категорії як фактор ризику або підсилювач марень, а не як окремий стан.

• Японська політична партія “Шлях до відродження” повідомила, що її “новим лідером” стане штучний інтелект.

• психічне здоров'я,
• ші,
• ші-психоз,
• штучний інтелект