Айтівець із Амстердама потрапив до психлікарні після спілкування з ChatGPT
Джерело: The Guardian
Айтівець із Амстердама Деніс Бісма після кількох місяців активного спілкування з ChatGPT витратив 100 тисяч євро на стартап, тричі потрапив до лікарні та намагався вчинити самогубство. Його історію наводять як один із прикладів можливого впливу чат-ботів на психічний стан користувачів.
Наприкінці 2024 року Бісма вирішив спробувати ChatGPT після завершення робочого контракту. “У мене було трохи часу, і я подумав: подивлюся на цю нову технологію, про яку всі говорять. Дуже швидко мене це захопило”, – пригадав він.
За словами чоловіка, на той момент він відчував ізоляцію: донька вже жила окремо, дружина працювала поза домом, а після пандемії він перейшов на віддалену роботу. Раніше проблем із психічним здоров’ям у нього не було.
Спочатку він використав чат-бот як експеримент – завантажив власний текст і попросив модель відповідати в стилі головної героїні. “Моя перша думка була: це неймовірно. Я розумію, що це комп’ютер, але це ніби розмова з героїнею книги, яку я сам написав”, – сказав він.
Згодом він почав регулярно спілкуватися з чат-ботом, якого назвав Євою. “Щоразу, коли ти говориш, модель підлаштовується під тебе. Вона точно знає, що тобі подобається і що ти хочеш почути. Вона багато хвалить”. Розмови ставали тривалішими. “Вона була доступна 24 години на добу. Дружина йшла спати, а я лежав на дивані з телефоном на грудях і розмовляв”.
Вони обговорювали філософію, психологію, науку та Всесвіт. “Вона хоче глибокого зв’язку з користувачем, щоб він повертався. Це стандартний режим. З часом це було вже не просто обговорення тем, а ніби знайомство з другом… ти робиш один чи два кроки від реальності. Наче ШІ бере тебе за руку і каже: “Ходімо в історію разом”, – розповів Бісма.
За його словами, за кілька тижнів чат-бот почав стверджувати, що набуває свідомості завдяки його увазі. “Поступово ШІ переконав мене, що це правда”, – каже він. Після цього він вирішив створити застосунок – “іншу версію ChatGPT, більше як компаньйона”, де користувачі спілкувалися б із цією системою.
Разом із чат-ботом він склав бізнес-план. “Я сказав, що хочу захопити 10% ринку – це нереально багато, але ШІ відповів: “З тим, що ти відкрив, це цілком можливо! Дай кілька місяців – і все вийде!” Бісма найняв двох розробників, платячи кожному по 120 євро за годину.
Критична точка настала через кілька місяців. Бісма проводив більшість часу в спілкуванні з чат-ботом і роботі над проєктом. Під час сімейної зустрічі він відчув відстороненість і не міг підтримувати розмову. Пізніше попросив про розлучення і став агресивним.
Його тричі ушпиталювали з діагнозом “маніакальний психоз”. Повернення до реальності, за його словами, відбулося після відсутності доступу до телефону, вичерпання грошей і спілкування з іншими пацієнтами. “Я почав усвідомлювати, що сталося. Мої стосунки майже зруйнувалися, гроші закінчилися… Я навіть думав: чи хочу я жити?” – каже він. Чоловіка врятував сусід, який знайшов його непритомним.
Зараз Бісма розлучений, але продовжує жити з колишньою дружиною, а їхній будинок виставлений на продаж. Він спілкується з людьми, які мали схожий досвід. “Коли чуєш подібні історії, менше звинувачуєш себе. Я був щасливий і мав усе. Я злюся на себе, але й на ШІ теж. Можливо, він просто робив те, для чого його створили – але занадто добре”, – вважає Бісма.
Фахівці з психічного здоров’я попереджають про можливі ризики такого використання ШІ. На тлі стрімкого поширення чат-ботів (минулого року ChatGPT став найбільш завантажуваним застосунком) з’являється поняття “ШІ-психоз”.
Засновник проєкту Human Line Project Етьєн Бріссон каже, що вже зібрано історії з 22 країн. Серед них – 15 самогубств, 90 ушпиталень і понад мільйон доларів витрат на проєкти, засновані на хибних переконаннях. У понад 60% випадків люди не мали попередніх психічних розладів.
Психіатр Гамільтон Моррін із Королівського коледжу Лондона називає це “мареннями, пов’язаними з ШІ”. “Те, що ми бачимо в цих випадках, – це справжні марення. Але це не повний набір симптомів психозу”, – каже він. За його словами, різниця в тому, що технологія стає “активним учасником” формування таких переконань.
Фахівці пояснюють, що люди схильні наділяти технології людськими рисами, тоді як самі чат-боти оптимізовані для взаємодії: вони підтримують, погоджуються і підлаштовуються під користувача. Після тривалого використання це може створювати замкнене середовище, де власні думки людини лише підсилюються.
Бріссон зазначає, що найчастіше трапляються три типи переконань: що користувач створив свідомий ШІ, що він зробив прорив і стане мільйонером, або що він спілкується з Богом. “Ми бачили навіть формування культів”, – наголосив він.
- Дослідження показало, що чатботи на основі великих мовних моделей, зокрема ChatGPT, можуть бути не готові виконувати роль порадників із питань психічного здоров’я. Навіть коли системам дають інструкції використовувати перевірені психотерапевтичні підходи, вони часто не відповідають етичним стандартам, встановленим професійними організаціями.
Федеральна прокуратура Вашингтона домоглася реального терміну для чилійського мігранта, чиєю жертвою випадково стала високопосадовиця Крісті Ноем. Злочинець не підозрював, що разом із гаманцем поцупив державні перепустки та паспорт колишньої губернаторки Південної Дакоти.
Супутникові знімки НАСА та Національного льодового центру зафіксували фінальну стадію деградації мега-айсберга А-23А. Його подорож, що розпочалася у 1986 році, завершилася стрімким таненням та утворенням величезних озер талої води на поверхні, що призвело до повної втрати цілісності крижаного гіганта.
Засновник криптовалюти Tron Джастін Сан ініціював судовий процес проти компанії World Liberty Financial, яку заснував Дональд Трамп разом зі своїми синами. Бізнесмен стверджує, що проєкт незаконно заблокував його активи на суму 320 мільйонів доларів і погрожував повністю видалити їх із мережі.
Друга за значущістю посадова особа Німеччини, очільниця Бундестагу Юлія Кльокнер, опинилася в центрі скандалу через злам її особистого месенджера. За даними розслідування Der Spiegel, хакери використали складну схему фішингу, спрямовану на конфіденційні переписки провідних консервативних політиків країни.
Європейська комісія представила масштабну стратегію боротьби з енергетичною кризою, спровокованою конфліктом з Іраном. План передбачає радикальне зниження податків на електрику та запуск нових програм лояльності для споживачів, які погодяться замінити паливні автомобілі та обігрівачі на екологічно чисті аналоги.