ChatGPT допоміг запобігти вбивству жінки у США

Джерело: Bild

Система безпеки ChatGPT допомогла розкрити план убивства 21-річної мешканки Флориди, свідчать матеріали суду.

25-річний співробітник аналітик інвестиційного банку Goldman Sachs Даррен Шида Чжоу детально описував у листуванні з чат-ботом, як планує викрасти, зґвалтувати та вбити свою колишню дівчину.

Якщо вона не дасть мені другого шансу, я зґвалтую і вб’ю її, а потім себе… Якщо я не можу її мати, то ніхто не зможе, — писав він.

Системи безпеки OpenAI виявили погрози, після чого співробітник компанії перевірив листування та передав інформацію ФБР. Матеріали згодом надійшли до місцевої поліції.

Слідчі розцінили повідомлення як реальний план злочину та заарештували Чжоу. Він визнав свою провину, а також підтвердив, що після розриву переслідував колишню дівчину дзвінками й повідомленнями з різних номерів та акаунтів.

Суд призначив Чжоу вісім років умовного покарання та зобов’язав протягом двох років носити електронний браслет. Йому також заборонено контактувати з колишньою дівчиною та володіти вогнепальною зброєю. Goldman Sachs після цього звільнив Чжоу.

ChatGPT у минулому критикували за те, що він не втручається у випадки погрозливих повідомлень. Ця прогалина в безпеці, схоже, зараз дедалі більше зменшується.

• Компанія OpenAI запускає версію ChatGPT, розроблену спеціально для користувачів віком від 13 до 17 років. Новий формат чат-бота передбачає додаткові обмеження щодо небезпечного контенту та має зменшити ризики емоційної залежності від штучного інтелекту.
• У штаті Массачусетс, США, 17-річного Арджуна Аравінда звинуватили у вбивстві матері та молодшого брата. Прокуратура також перевіряє його активність у ChatGPT, де підліток, за даними слідства, створював вигадані історії про вбивство членів своєї родини.
• OpenAI оголосила про запуск нової функції Trusted Contact (“Довірений контакт”) у ChatGPT. 

• ChatGPT,
• замах,
• США,
• ші