У США 19-річний студент помер після порад ChatGPT щодо вживання наркотиків

Джерело: The Telegraph

У США 19-річний студент-психолог Каліфорнійського університету Мерсед, Сем Нельсон, помер від передозування після того, як протягом тривалого часу звертався до чат-бота ChatGPT за порадами щодо вживання наркотичних і заспокійливих речовин.

Нельсон консультувався з чат-ботом щодо поєднання препарату Xanax та рослинного екстракту кратому, який має опіоїдні властивості та викликає залежність.

Транскрипти його розмов за 18 місяців нібито свідчать, що ChatGPT надавав детальні рекомендації щодо дозування та запевняв у безпечності таких дій.

У день смерті студент знову звертався до чат-бота із запитанням, чи може Xanax зменшити нудоту після вживання кратому. Після цього мати Нельсона знайшла сина мертвим у спальні.

В OpenAI заявили, що ситуація є трагічною, висловили співчуття родині загиблого та наголосили, що їхні моделі мають надавати обережні відповіді, відмовляти у шкідливих запитах і заохочувати людей звертатися по реальну допомогу.

• У Коннектикуті родина загиблої 83-річної Сьюзан Адамс подала позов проти OpenAI, заявивши, що чат-бот ChatGPT посилив параноїдальні марення її сина, 56-річного Стейн-Еріка Соельберга, що зрештою призвело до трагедії. У серпні поліція виявила матір і сина мертвими в їхньому будинку в Ґрінвічі. Експертиза встановила: Адамс була вбита, а Соельберг наклав на себе руки.
• OpenAI відкинула звинувачення у тому, що її чат-бот ChatGPT став причиною смерті 16-річного Адама Рейна, який помер у квітні цього року після місяців листування з системою. Після цього його батьки подали до суду на OpenAI – це перший позов проти компанії, пов’язаний зі смертю користувача.

• ChatGPT,
• вживання наркотиків,
• передозування,
• США