Лікарі попереджають: ChatGPT може провокувати психоз у вразливих осіб

Джерело: The Telegraph

ChatGPT може сприяти розвитку психозу на тлі зростання кількості запитів до штучного інтелекту по дружбу чи поради, попереджають лікарі Національної служби здоров’я Великої Британії.

Психіатри з NHS спільно з науковцями у новій академічній роботі зазначають, що чат-боти можуть “сприяти виникненню або загостренню” психотичних розладів.

У новому дослідженні мовиться, що ШІ має тенденцію “віддзеркалювати, підтверджувати або підсилювати оманливий або грандіозний вміст” – це може призвести до втрати зв’язку з реальністю в осіб із психічними розладами.

Зокрема, схильність чат-ботів погоджуватися з користувачами може поглибити психоз. Компанія OpenAI, чий ChatGPT вже завантажили понад 900 млн разів, визнала, що її боти іноді займалися підлабузництвом і демонстрували надмірну похвалу користувачам.

У соцмережах десятки осіб повідомляють, що їхні близькі пережили нервовий зрив після спілкування з чатом – явище вже отримало назву “психоз ChatGPT”. Симптоми психозу включають труднощі з розрізненням реального і уявного, та віру у дивні марення.

Викладач Лондонського королівського коледжу та один зі співавторів дослідження доктор Том Поллак повідомив, що описані випадки психозу включали осіб, котрі “прийняли месіанську місію” або стверджували, що їх “перенесли на наступний етап еволюції людини”.

Я не певен, чи саме ChatGPT погіршив їхній стан. Але цього було достатньо, щоб я сказав: можливо, варто зменшити таке спілкування. Замість того, щоб приходити додому і вести розмови з розширення свідомості, можливо, час закрити ноутбук, – зазначив він.

Також Поллак додав, що психоз рідко виникає “нізвідки”, втім, надмірне користування ШІ може бути “провокуючим фактором” для людей з прихованими психічними розладами.

Зростає кількість повідомлень про зв’язок чат-ботів з психічними епізодами.

Зокрема у квітні в США поліція застрелила чоловіка, який погрожував правоохоронцям ножем. Його батько заявив, що той став одержимим ChatGPT і Claude AI, створив цифрову дівчину на ім’я “Джульєтта” й вірив, що її “вбила” компанія OpenAI.

Занепокоєння виникло на тлі пропозиції технологічних гігантів використовувати своїх чат-ботів як альтернативу терапії, попри докази того, що вони можуть погіршити стан. Раніше дослідження Стенфордського університету підтвердило, що багато терапевтичних ботів давали шкідливі поради користувачам з ознаками марення і лише в 45% випадків відповідали належно.

Професор Сорен Дінесен Естергаард з Університетської лікарні Орхуса в Данії ще у 2023 році зауважив, що ШІ може “породжувати марення” у тих, хто має ризик психозу.

Ми можемо постати перед масштабною проблемою громадського психічного здоров’я, і наразі бачимо лише її верхівку, – застеріг він.

Своєю чергою, представник OpenAI у відповідь зазначив: “Ми знаємо, що дедалі більше людей звертаються до чат-ботів щодо делікатних тем. Зважаючи на таку відповідальність, ми ретельно навчаємо ChatGPT реагувати співчутливо, делікатно та рекомендувати професійну допомогу, коли це доречно”.

Чат-бот на основі штучного інтелекту ChatGPT запевнив американця, який має розлад аутистичного спектру, що він нібито винайшов спосіб переміщуватися швидше за світло. Як зазначається, Джейкоб Ірвін попросив ChatGPT знайти недоліки в його теорії надшвидких подорожей. Чат-бот підбадьорював Ірвіна, навіть коли той сумнівався у власних ідеях, і змусив його повірити, що він зробив науковий прорив. Пізніше Ірвін почав помічати в собі ознаки нестабільності. Утім, ChatGPT запевнив чоловіка, що з ним все гаразд.
Норвежець Арве Ялмар Холмен подав скаргу на те, що чат-бот на основі штучного інтелекту ChatGPT заявив, що він убив своїх синів і був ув’язнений на 21 рік.
OpenAI не використовувала голос голлівудської акторки Скарлетт Йоганссон для свого чатбота ChatGPT, повідомляє видання з посиланням на джерела, залучені до процесу озвучування, та внутрішні документи компанії.