Сім’ї позиваються до чат-бота ШІ: він пропонував дітям вбити своїх батьків

Джерело: Popular Science

Дві сім’ї подали до суду на чат-ботів штучного інтелекту Character.AI. Один із позовів спрямовано на закриття чат-ботів, доки не будуть запроваджені нова правила безпеки.

У матеріалі йдеться про те, що один чат-бот нібито запропонував 15-річному підлітку вбити своїх батьків за те, що вони обмежили використання ним інтернету.

У судовому позові також розповідається про швидкий розумовий і фізичний занепад двох підлітків, котрі використовували ботів Character.AI.

Перший позивач описаний як “типова дитина з високофункціональним аутизмом”, яка почала використовувати додаток приблизно у квітні 2023 року, у віці 15 років, без відома батьків.

Протягом 15 годин розмов зі штучним інтелектом підліток розповідав про розчарування своєю родиною, яка не дозволяла йому користуватися соцмережами. Багато ботів висловлювали співчуття, а один сказав, що “ваше дитинство було кврадено у вас”.

Юристи стверджують, що за шість місяців використання програми дитина стала зневіреною, замкнутою та сердитою. Хлопець схуд на 20 фунтів до того часу, коли батьки виявили його обліковий запис.

“Ми не коментуємо незавершені судові процеси, – сказав представник Character.AI в електронному листі до Popular Science. – Наша мета – створити простір, який буде привабливим і безпечним для нашої спільноти. Ми постійно працюємо над досягненням цього балансу, як і багато компаній, які використовують ШІ в галузі”.

• Соцмережа X оновила умови надання послуг, які вже цього місяця дозволять чатботу зі штучним інтелектом Grok використовувати дописи користувачів для тренування своїх ШІ моделей.

• боротьба з ШІ,
• генеративний штучний інтелект,
• інцидент