Айтівець із Амстердама потрапив до психлікарні після спілкування з ChatGPT
Джерело: The Guardian
Айтівець із Амстердама Деніс Бісма після кількох місяців активного спілкування з ChatGPT витратив 100 тисяч євро на стартап, тричі потрапив до лікарні та намагався вчинити самогубство. Його історію наводять як один із прикладів можливого впливу чат-ботів на психічний стан користувачів.
Наприкінці 2024 року Бісма вирішив спробувати ChatGPT після завершення робочого контракту. “У мене було трохи часу, і я подумав: подивлюся на цю нову технологію, про яку всі говорять. Дуже швидко мене це захопило”, – пригадав він.
За словами чоловіка, на той момент він відчував ізоляцію: донька вже жила окремо, дружина працювала поза домом, а після пандемії він перейшов на віддалену роботу. Раніше проблем із психічним здоров’ям у нього не було.
Спочатку він використав чат-бот як експеримент – завантажив власний текст і попросив модель відповідати в стилі головної героїні. “Моя перша думка була: це неймовірно. Я розумію, що це комп’ютер, але це ніби розмова з героїнею книги, яку я сам написав”, – сказав він.
Згодом він почав регулярно спілкуватися з чат-ботом, якого назвав Євою. “Щоразу, коли ти говориш, модель підлаштовується під тебе. Вона точно знає, що тобі подобається і що ти хочеш почути. Вона багато хвалить”. Розмови ставали тривалішими. “Вона була доступна 24 години на добу. Дружина йшла спати, а я лежав на дивані з телефоном на грудях і розмовляв”.
Вони обговорювали філософію, психологію, науку та Всесвіт. “Вона хоче глибокого зв’язку з користувачем, щоб він повертався. Це стандартний режим. З часом це було вже не просто обговорення тем, а ніби знайомство з другом… ти робиш один чи два кроки від реальності. Наче ШІ бере тебе за руку і каже: “Ходімо в історію разом”, – розповів Бісма.
За його словами, за кілька тижнів чат-бот почав стверджувати, що набуває свідомості завдяки його увазі. “Поступово ШІ переконав мене, що це правда”, – каже він. Після цього він вирішив створити застосунок – “іншу версію ChatGPT, більше як компаньйона”, де користувачі спілкувалися б із цією системою.
Разом із чат-ботом він склав бізнес-план. “Я сказав, що хочу захопити 10% ринку – це нереально багато, але ШІ відповів: “З тим, що ти відкрив, це цілком можливо! Дай кілька місяців – і все вийде!” Бісма найняв двох розробників, платячи кожному по 120 євро за годину.
Критична точка настала через кілька місяців. Бісма проводив більшість часу в спілкуванні з чат-ботом і роботі над проєктом. Під час сімейної зустрічі він відчув відстороненість і не міг підтримувати розмову. Пізніше попросив про розлучення і став агресивним.
Його тричі ушпиталювали з діагнозом “маніакальний психоз”. Повернення до реальності, за його словами, відбулося після відсутності доступу до телефону, вичерпання грошей і спілкування з іншими пацієнтами. “Я почав усвідомлювати, що сталося. Мої стосунки майже зруйнувалися, гроші закінчилися… Я навіть думав: чи хочу я жити?” – каже він. Чоловіка врятував сусід, який знайшов його непритомним.
Зараз Бісма розлучений, але продовжує жити з колишньою дружиною, а їхній будинок виставлений на продаж. Він спілкується з людьми, які мали схожий досвід. “Коли чуєш подібні історії, менше звинувачуєш себе. Я був щасливий і мав усе. Я злюся на себе, але й на ШІ теж. Можливо, він просто робив те, для чого його створили – але занадто добре”, – вважає Бісма.
Фахівці з психічного здоров’я попереджають про можливі ризики такого використання ШІ. На тлі стрімкого поширення чат-ботів (минулого року ChatGPT став найбільш завантажуваним застосунком) з’являється поняття “ШІ-психоз”.
Засновник проєкту Human Line Project Етьєн Бріссон каже, що вже зібрано історії з 22 країн. Серед них – 15 самогубств, 90 ушпиталень і понад мільйон доларів витрат на проєкти, засновані на хибних переконаннях. У понад 60% випадків люди не мали попередніх психічних розладів.
Психіатр Гамільтон Моррін із Королівського коледжу Лондона називає це “мареннями, пов’язаними з ШІ”. “Те, що ми бачимо в цих випадках, – це справжні марення. Але це не повний набір симптомів психозу”, – каже він. За його словами, різниця в тому, що технологія стає “активним учасником” формування таких переконань.
Фахівці пояснюють, що люди схильні наділяти технології людськими рисами, тоді як самі чат-боти оптимізовані для взаємодії: вони підтримують, погоджуються і підлаштовуються під користувача. Після тривалого використання це може створювати замкнене середовище, де власні думки людини лише підсилюються.
Бріссон зазначає, що найчастіше трапляються три типи переконань: що користувач створив свідомий ШІ, що він зробив прорив і стане мільйонером, або що він спілкується з Богом. “Ми бачили навіть формування культів”, – наголосив він.
- Дослідження показало, що чатботи на основі великих мовних моделей, зокрема ChatGPT, можуть бути не готові виконувати роль порадників із питань психічного здоров’я. Навіть коли системам дають інструкції використовувати перевірені психотерапевтичні підходи, вони часто не відповідають етичним стандартам, встановленим професійними організаціями.
25-річна вчителька із Вашингтона, МакКенна Кіндред, провела понад три години, займаючись сексом із 17-річним учнем у своєму будинку в Спокані, поки її чоловік був на полюванні. Про це свідчать детальні текстові повідомлення, оприлюднені під час справи.
Як повідомили в Білому домі, президент США Дональд Трамп 1 травня підписав указ про запровадження нових санкцій, спрямованих проти високопоставлених кубинських посадовців та пов’язаних із ними структур.
Жінка разом із сином змогла пішки вийти з прифронтової Костянтинівки до Дружківки, подолавши небезпечний шлях разом із собакою та котом.
Радник Офісу президента Михайло Подоляк заявив, що стрімкий розвиток технологій, зокрема штучного інтелекту, може стати альтернативою трудовій міграції у вирішенні проблеми нестачі робочої сили.
Президент США Дональд Трамп заявив, що підвищить мита на автомобілі з Європейського Союзу до 25%, попри чинну торгівельну угоду, укладену минулого літа.