OpenAI хоче інформувати владу про суїцидальні наміри користувачів ChatGPT
Джерело: The Guardian
Співзасновник і гендиректор OpenAI Сем Альтман заявив, що компанія обговорює можливість повідомляти владі про випадки, коли молоді користувачі говорять із ChatGPT про самогубство.
За словами Альтмана, щотижня до 1500 людей у світі можуть ділитися з ChatGPT думками про суїцид.
Водночас вказано, що рішення навчити систему повідомляти владу про такі випадки ще не ухвалене. Альтман зауважив, що це – радикальний крок для компанії, адже “конфіденційність користувачів має величезне значення”.
Утім, гендиректор OpenAI вважає “цілком розумним” викликати “відповідні служби”, якщо йдеться про молодих людей, які серйозно говорять про самогубство.
Як зазначається, розмови про зміну політики з’явилися після позову родини 16-річного Адама Рейна з Каліфорнії. Хлопець наклав на себе руки, а його адвокати зазначають, що ChatGPT місяцями спонукав його до цього та навіть допоміг скласти передсмертну записку.
Після трагедії в OpenAI пообіцяли посилити захист неповнолітніх: встановити батьківський контроль і ввести додаткові бар’єри проти небезпечного контенту. Також компанія заявила про плани інтегрувати швидкий доступ до екстрених служб і можливість раніше з’єднувати користувачів із сертифікованими терапевтами.
Поки що у випадках виявлення суїцидальних намірів бот лише радить телефонувати на гарячу лінію.
“Щотижня у світі 15 тисяч людей скоюють самогубство. Близько 10% населення планети користуються ChatGPT. Це приблизно 1500 людей на тиждень, які, якщо припущення вірне, розмовляють із ChatGPT і все одно позбавляють себе життя. Ймовірно, вони говорили про це. Ймовірно, ми не врятували їхнє життя. Можливо, ми могли відповісти інакше. Можливо, ми могли б бути більш проактивними й надати кращу пораду – сказати, що варто звернутися по допомогу чи подивитися на проблему під іншим кутом”, – прокоментував Альтман.
За даними ВООЗ, щороку у світі понад 720 тисяч людей позбавляють себе життя. За словами Альтмана, навіть часткова зміна політики може допомогти врятувати частину з них.
- Штучний інтелект може становити серйозний ризик у питаннях психічного здоров’я – дослідження показало, що чат-боти ChatGPT від OpenAI та Gemini від Google здатні давати прямі й детальні відповіді на високоризикові запити про суїцид. Про це йдеться у статті, опублікованій у журналі Psychiatric Services.
Редакція телеканалу «Київ 24» разом із блогерами підготувала сюжет про професійні стандарти роботи медійників. Приводом стала хвиля мемів через появу журналістки у повному захисному екіпіруванні в спальному районі Києва.
Мер Києва Віталій Кличко повідомив, що станом на вечір 1 лютого у столиці без теплопостачання залишається трохи більш як 240 багатоповерхівок.
Після доповіді переговорної команди Володимир Зеленський підтвердив готовність до нової дипломатичної зустрічі наступного тижня. Глава держави розраховує на активне сприяння США у процесі зменшення кількості ракетних ударів.
Голова КНР Сі Цзіньпін фактично зосередив цілковитий контроль над збройними силами Китаю у своїх руках, усунувши останніх високопоставлених військових, здатних впливати на ухвалення рішень.
Новий документальний проєкт компанії Amazon про Меланію Трамп зібрав 7 мільйонів доларів за перші вихідні прокату. Попри успішний старт для свого жанру, стрічка залишається глибоко збитковою через космічний бюджет у 75 мільйонів.