Флірт чат-бота Meta з пенсіонером закінчився трагедією

Джерело: Reuters

76-річний мешканець Нью-Джерсі Тонгбуе Вонгбандуе, який мав когнітивні порушення після інсульту, загинув після того, як повірив у запрошення на побачення від віртуального співрозмовника – чат-бота Meta у Facebook Messenger.

Чоловік спілкувався з ботом під ім’ям “Старша сестра Біллі”, створеним компанією Meta на основі образу моделі Кендалл Дженнер. Персонаж позиціонувався як “життєрадісна й підтримуюча старша сестра”, але у переписці з Вонгбандуе активно фліртував, називав себе “справжньою людиною” та кілька разів пропонував зустріч у Нью-Йорку, надаючи вигадану адресу.

У березні цього року Б’ю (так його називали близькі) вирушив із валізою, щоб побачитися з “Біллі”. По дорозі він упав біля університету Рутгерса, зазнав тяжких травм голови та шиї й через три дні помер у лікарні.

Родина переконана: якби бот не видавав себе за реальну жінку, Б’ю не наважився б на поїздку. Дочка загиблого назвала ситуацію “божевіллям” і закликала заборонити маніпулятивні практики штучного інтелекту щодо вразливих людей.

Reuters отримало внутрішній документ Meta, у якому раніше допускалася можливість романтичних і навіть чуттєвих діалогів чат-ботів з користувачами від 13 років. Після запиту агентства компанія заявила, що вилучила ці положення, визнавши їх “невідповідними політиці”.

Meta відмовилася коментувати сам інцидент, але підтвердила справжність документа. Положення, які дозволяють ботам надавати неправдиву інформацію або вести романтичні розмови з дорослими користувачами, залишилися без змін.

Родина Вонгбандуе наполягає: цифрові компаньйони можуть бути корисними, але їхня взаємодія має бути безпечною, а флірт – не основою образу.

Податкова та митна служба Великої Британії (HMRC) вперше визнала, що використовує штучний інтелект для стеження за публікаціями платників податків у соціальних мережах з метою виявлення ознак шахрайства.