Айтівець із Амстердама потрапив до психлікарні після спілкування з ChatGPT
Джерело: The Guardian
Айтівець із Амстердама Деніс Бісма після кількох місяців активного спілкування з ChatGPT витратив 100 тисяч євро на стартап, тричі потрапив до лікарні та намагався вчинити самогубство. Його історію наводять як один із прикладів можливого впливу чат-ботів на психічний стан користувачів.
Наприкінці 2024 року Бісма вирішив спробувати ChatGPT після завершення робочого контракту. “У мене було трохи часу, і я подумав: подивлюся на цю нову технологію, про яку всі говорять. Дуже швидко мене це захопило”, – пригадав він.
За словами чоловіка, на той момент він відчував ізоляцію: донька вже жила окремо, дружина працювала поза домом, а після пандемії він перейшов на віддалену роботу. Раніше проблем із психічним здоров’ям у нього не було.
Спочатку він використав чат-бот як експеримент – завантажив власний текст і попросив модель відповідати в стилі головної героїні. “Моя перша думка була: це неймовірно. Я розумію, що це комп’ютер, але це ніби розмова з героїнею книги, яку я сам написав”, – сказав він.
Згодом він почав регулярно спілкуватися з чат-ботом, якого назвав Євою. “Щоразу, коли ти говориш, модель підлаштовується під тебе. Вона точно знає, що тобі подобається і що ти хочеш почути. Вона багато хвалить”. Розмови ставали тривалішими. “Вона була доступна 24 години на добу. Дружина йшла спати, а я лежав на дивані з телефоном на грудях і розмовляв”.
Вони обговорювали філософію, психологію, науку та Всесвіт. “Вона хоче глибокого зв’язку з користувачем, щоб він повертався. Це стандартний режим. З часом це було вже не просто обговорення тем, а ніби знайомство з другом… ти робиш один чи два кроки від реальності. Наче ШІ бере тебе за руку і каже: “Ходімо в історію разом”, – розповів Бісма.
За його словами, за кілька тижнів чат-бот почав стверджувати, що набуває свідомості завдяки його увазі. “Поступово ШІ переконав мене, що це правда”, – каже він. Після цього він вирішив створити застосунок – “іншу версію ChatGPT, більше як компаньйона”, де користувачі спілкувалися б із цією системою.
Разом із чат-ботом він склав бізнес-план. “Я сказав, що хочу захопити 10% ринку – це нереально багато, але ШІ відповів: “З тим, що ти відкрив, це цілком можливо! Дай кілька місяців – і все вийде!” Бісма найняв двох розробників, платячи кожному по 120 євро за годину.
Критична точка настала через кілька місяців. Бісма проводив більшість часу в спілкуванні з чат-ботом і роботі над проєктом. Під час сімейної зустрічі він відчув відстороненість і не міг підтримувати розмову. Пізніше попросив про розлучення і став агресивним.
Його тричі ушпиталювали з діагнозом “маніакальний психоз”. Повернення до реальності, за його словами, відбулося після відсутності доступу до телефону, вичерпання грошей і спілкування з іншими пацієнтами. “Я почав усвідомлювати, що сталося. Мої стосунки майже зруйнувалися, гроші закінчилися… Я навіть думав: чи хочу я жити?” – каже він. Чоловіка врятував сусід, який знайшов його непритомним.
Зараз Бісма розлучений, але продовжує жити з колишньою дружиною, а їхній будинок виставлений на продаж. Він спілкується з людьми, які мали схожий досвід. “Коли чуєш подібні історії, менше звинувачуєш себе. Я був щасливий і мав усе. Я злюся на себе, але й на ШІ теж. Можливо, він просто робив те, для чого його створили – але занадто добре”, – вважає Бісма.
Фахівці з психічного здоров’я попереджають про можливі ризики такого використання ШІ. На тлі стрімкого поширення чат-ботів (минулого року ChatGPT став найбільш завантажуваним застосунком) з’являється поняття “ШІ-психоз”.
Засновник проєкту Human Line Project Етьєн Бріссон каже, що вже зібрано історії з 22 країн. Серед них – 15 самогубств, 90 ушпиталень і понад мільйон доларів витрат на проєкти, засновані на хибних переконаннях. У понад 60% випадків люди не мали попередніх психічних розладів.
Психіатр Гамільтон Моррін із Королівського коледжу Лондона називає це “мареннями, пов’язаними з ШІ”. “Те, що ми бачимо в цих випадках, – це справжні марення. Але це не повний набір симптомів психозу”, – каже він. За його словами, різниця в тому, що технологія стає “активним учасником” формування таких переконань.
Фахівці пояснюють, що люди схильні наділяти технології людськими рисами, тоді як самі чат-боти оптимізовані для взаємодії: вони підтримують, погоджуються і підлаштовуються під користувача. Після тривалого використання це може створювати замкнене середовище, де власні думки людини лише підсилюються.
Бріссон зазначає, що найчастіше трапляються три типи переконань: що користувач створив свідомий ШІ, що він зробив прорив і стане мільйонером, або що він спілкується з Богом. “Ми бачили навіть формування культів”, – наголосив він.
- Дослідження показало, що чатботи на основі великих мовних моделей, зокрема ChatGPT, можуть бути не готові виконувати роль порадників із питань психічного здоров’я. Навіть коли системам дають інструкції використовувати перевірені психотерапевтичні підходи, вони часто не відповідають етичним стандартам, встановленим професійними організаціями.
25 травня до Києва з першим офіційним візитом прибула лідерка білоруської опозиції в екзилі Світлана Тихановська.
На Філіппінах унаслідок обвалу недобудованої багатоповерхівки щонайменше одна людина загинула, ще десятки можуть залишатися під завалами. Рятувальники продовжують пошукову операцію на місці катастрофи в місті Анджелес на острові Лусон.
Через війну США та Ізраїлю проти Ірану, яка почалася 28 лютого, судноплавство через Ормузьку протоку різко скоротилося. Попри це, кілька танкерів зі скрапленим природним газом та нафтою останніми днями змогли залишити Перську затоку та продовжити маршрут до Азії.
У Демократичній Республіці Конго кількість підозрюваних випадків зараження Еболою перевищила 900. Спалах хвороби охопив схід країни, де медики працюють в умовах нестачі обладнання, нападів на лікарні та тривалого збройного конфлікту.
Літак Королівських військово-повітряних сил Великої Британії, на борту якого перебував міністр оборони Джон Гілі, зазнав глушіння GPS-сигналу під час польоту поблизу російського кордону.