Meta сповіщатиме батьків, якщо підлітки говоритимутб з чат-ботом про самогубство
Джерело: CBC
Компанія Meta запустила нову функцію, яка повідомлятиме батьків, якщо підліток обговорюватиме з чатботом Meta AI теми, пов’язані із суїцидом або самоушкодженням. Інструмент уже доступний для користувачів у Канаді, Великій Британії, США та Австралії.
Про це компанія повідомила у своєму блозі.
Нова функція працює для батьків, які підключили батьківський контроль до акаунтів своїх дітей в Instagram. Якщо система виявить у розмовах підлітка з Meta AI ознаки кризового стану, батьки отримають сповіщення на свій пристрій. Це стосується спілкування з чат-ботом на будь-якій платформі компанії – Instagram, WhatsApp, Facebook Messenger, а також через окремий сайт Meta.ai.
Нововведення стало продовженням уже наявних заходів безпеки. Раніше, якщо підліток повідомляв чат-боту про думки щодо самоушкодження чи самогубства, Meta AI пропонував контакти кризових служб і радив звернутися до батьків або іншої довіреної людини. Крім того, батьки вже отримували сповіщення, якщо підліток неодноразово шукав в Instagram інформацію, пов’язану із самоушкодженням або суїцидом.
У Meta також повідомили, що працюють над ще одним інструментом. Він має дозволити звертатися до екстрених служб, якщо розмови з чат-ботом як дорослих, так і підлітків свідчитимуть про високий ризик самогубства.
У Meta заявили, що на першому етапі система працюватиме максимально обережно та надсилатиме сповіщення навіть у випадках, коли наміри підлітка залишаються неоднозначними.
“Хоча це означає, що іноді ми можемо повідомляти батьків навіть без реальних підстав для занепокоєння, ми вважаємо, що саме з цього варто почати, і надалі стежитимемо за роботою системи, щоб переконатися, що вона працює належним чином”, – заявили в компанії.
Нова функція Meta з’явилася на тлі посиленої уваги до ролі чат-ботів зі штучним інтелектом під час криз психічного здоров’я серед молоді.
Зокрема, OpenAI повідомила, що за пів року до масової стрілянини в Канаді позначила та заблокувала акаунт підлітка, причетного до нападу, через “тривожний контент”, однак тоді не повідомила про це поліцію.
Також родина американського підлітка Адама Рейна, який торік помер унаслідок самогубства, подала позов проти OpenAI, стверджуючи, що чат-бот сприяв його смерті.
Після цього OpenAI також запровадила функції батьківського контролю. Серед них – механізм, схожий на рішення Meta, який повідомлятиме батьків, якщо розмови підлітка з чат-ботом свідчитимуть про високий ризик серйозного самоушкодження або якщо акаунт дитини буде заблоковано через обговорення насильницьких дій.
- Понад два десятки американських штатів звинуватили Meta у незаконному зборі даних дітей та введенні користувачів в оману. Якщо суд стане на бік позивачів, компанії може загрожувати штраф у розмірі до 1,4 трильйона доларів, що майже дорівнює її ринковій вартості. Водночас Meta називає такі вимоги безпрецедентними та просить суд відхилити більшість претензій.
Генеральний директор Nvidia Дженсен Хуанг зізнався у подружній зраді з ймовірною китайською шпигункою. Його посада, статки та шлюб опинилися під загрозою. Акції Nvidia 9 листопада обвалилися більш ніж на 7%. Відтак, ринкова капіталізація компанії скоротилася приблизно на 180 млрд євро.
Канцлер Німеччини Фрідріх Мерц пов’язав підтримку семирічного бюджету Євросоюзу з готовністю всіх держав-членів фінансово допомагати Україні у 2027 році та надалі. Берлін вимагає спільних зобов’язань щодо покриття фінансового дефіциту Києва, який наступного року оцінюють у €70 млрд.
У Київському районі Харкова російський безпілотник влучив в автомобіль. Внаслідок атаки є постраждалий.
Із Берислава Херсонської області під час режиму припинення вогню вивезли двох останніх дітей, які досі перебували в місті. Разом із ними евакуювали батьків, а також двох місцевих мешканок віком 71 та 75 років.
В Угорщині, ймовірно, затримали брата колишнього прем’єр-міністра Віктора Орбана Арона Орбана у справі про незаконне переправлення людей через кордон. Про це повідомляють угорські ЗМІ, на які послався чинний глава уряду Петер Мадяр.