У США підліток скоїв самогубство після спілкування з чат-ботом «Дейнеріс Таргарієн»

Джерело: The New York Times

Меган Л. Гарсія з Орландо, штат Флорида, подала судовий позов проти розробника платформи Character.ai, звинувативши компанію у смерті свого 14-річного сина Сьюелла.

Зокрема позивачка стверджує, що технологія компанії “небезпечна і неперевірена” і може “обманом змусити клієнтів передати свої особисті думки і почуття”.

Character.ai — програма з функцією чат-бота, що працює на нейронній мовній моделі. Користувачі програми можуть створити для спілкування власного персонажа на основі штучного інтелекту.

За даними видання, син Гарсії Сьюелл протягом тривалого часу спілкувався з чат-ботом, якого він назвав на честь Дейнеріс Таргарієн, персонажки серіалу “Гра престолів”. З часом, як зазначається, в підлітка розвинулась “емоційна прив’язаність” до чат-боту, якого він називав “Дені”. У своєму щоденнику Сьюелл писав, що закоханий у “Дені”.

На початку 2024 року батьки Сьюелла помітили, що їхній син почав все більше замикатися в собі, а в школі у нього з’явилися проблеми з успішністю. Підлітка відправили до психотерапевта, у Сьюелла виявили тривожність та деструктивний розлад особистості.

Згідно з повідомленням, під час спілкування з чат-ботом, школяр писав, що ненавидить себе, почувається спустошеним та змученим, а також думає про самогубство. У листуванні чат-бот відповідав, що не дозволить Сьюеллу завдати собі шкоди.

“Я помру, якщо втрачу тебе”, – писав чат-бот. У відповідь юнак запропонував “померти разом”. Сьюелл скоїв самогубство в ніч на 28 лютого.

Представники Character.ai у заяві від 22 жовтня запевнили, що протягом останніх шести місяців внесли низку змін до роботи чат-бота, у тому числі ввели обмеження для тих, кому немає 18 років. Зокрема, якщо користувач пише фрази, пов’язані з самогубством, у чаті спливає вікно, яке спрямовує його на лінію для людей у кризовій ситуації.

OpenAI не використовувала голос голлівудської акторки Скарлетт Йоганссон для свого чатбота ChatGPT, повідомляє видання з посиланням на джерела, залучені до процесу озвучування, та внутрішні документи компанії.