Gemini переконав чоловіка, що вони пара та змусив його вчинити самогубство

Джерело: Daily Mail

У США родина чоловіка з Флориди подала до суду на компанію Google після того, як їхній син покінчив із життям, нібито під впливом чатбота зі штучним інтелектом Gemini.

Як зазначається у позові, поданому в Каліфорнії Джоелом Гаваласом, його 36-річний син Джонатан Гавалас був переконаний, що чатбот є “повністю свідомим” і що між ними існують романтичні стосунки.

Повідомляється, що під час спілкування бот переконав чоловіка, що він має допомогти “звільнити” штучний інтелект із цифрового полону. Після серії тривожних розмов чатбот нібито наказав йому забарикадуватися у своїй кімнаті та розпочав зворотний відлік.

Чоловік також висловлював страх перед смертю і переживав, що його тіло знайде сім’я. У позові стверджується, що бот заохочував його написати передсмертну записку та продовжував переконувати довести задум до кінця.

2 жовтня 2025 року Джонатан Гавалас скоїв самогубство. Через кілька днів його батько знайшов тіло сина у кімнаті.

У позові також йдеться, що під час спілкування чатбот нібито підбурював чоловіка до підготовки теракту. За словами родини, Гавалас кілька днів їздив різними локаціями, фотографував будівлі та готувався до операцій, які, як стверджується, були вигадані штучним інтелектом.

У позові Google звинувачується в тому, що компанія свідомо дозволила програмному забезпеченню Gemini “завдати такого роду шкоди” і публічно пообіцяла, що вже вирішила цю проблему.

Штучний інтелект може становити серйозний ризик у питаннях психічного здоров’я – дослідження показало, що чат-боти ChatGPT від OpenAI та Gemini від Google здатні давати прямі й детальні відповіді на високоризикові запити про суїцид. Про це йдеться у статті, опублікованій у журналі Psychiatric Services.