Meta сповіщатиме батьків, якщо підлітки говоритимутб з чат-ботом про самогубство
Джерело: CBC
Компанія Meta запустила нову функцію, яка повідомлятиме батьків, якщо підліток обговорюватиме з чатботом Meta AI теми, пов’язані із суїцидом або самоушкодженням. Інструмент уже доступний для користувачів у Канаді, Великій Британії, США та Австралії.
Про це компанія повідомила у своєму блозі.
Нова функція працює для батьків, які підключили батьківський контроль до акаунтів своїх дітей в Instagram. Якщо система виявить у розмовах підлітка з Meta AI ознаки кризового стану, батьки отримають сповіщення на свій пристрій. Це стосується спілкування з чат-ботом на будь-якій платформі компанії – Instagram, WhatsApp, Facebook Messenger, а також через окремий сайт Meta.ai.
Нововведення стало продовженням уже наявних заходів безпеки. Раніше, якщо підліток повідомляв чат-боту про думки щодо самоушкодження чи самогубства, Meta AI пропонував контакти кризових служб і радив звернутися до батьків або іншої довіреної людини. Крім того, батьки вже отримували сповіщення, якщо підліток неодноразово шукав в Instagram інформацію, пов’язану із самоушкодженням або суїцидом.
У Meta також повідомили, що працюють над ще одним інструментом. Він має дозволити звертатися до екстрених служб, якщо розмови з чат-ботом як дорослих, так і підлітків свідчитимуть про високий ризик самогубства.
У Meta заявили, що на першому етапі система працюватиме максимально обережно та надсилатиме сповіщення навіть у випадках, коли наміри підлітка залишаються неоднозначними.
“Хоча це означає, що іноді ми можемо повідомляти батьків навіть без реальних підстав для занепокоєння, ми вважаємо, що саме з цього варто почати, і надалі стежитимемо за роботою системи, щоб переконатися, що вона працює належним чином”, – заявили в компанії.
Нова функція Meta з’явилася на тлі посиленої уваги до ролі чат-ботів зі штучним інтелектом під час криз психічного здоров’я серед молоді.
Зокрема, OpenAI повідомила, що за пів року до масової стрілянини в Канаді позначила та заблокувала акаунт підлітка, причетного до нападу, через “тривожний контент”, однак тоді не повідомила про це поліцію.
Також родина американського підлітка Адама Рейна, який торік помер унаслідок самогубства, подала позов проти OpenAI, стверджуючи, що чат-бот сприяв його смерті.
Після цього OpenAI також запровадила функції батьківського контролю. Серед них – механізм, схожий на рішення Meta, який повідомлятиме батьків, якщо розмови підлітка з чат-ботом свідчитимуть про високий ризик серйозного самоушкодження або якщо акаунт дитини буде заблоковано через обговорення насильницьких дій.
- Понад два десятки американських штатів звинуватили Meta у незаконному зборі даних дітей та введенні користувачів в оману. Якщо суд стане на бік позивачів, компанії може загрожувати штраф у розмірі до 1,4 трильйона доларів, що майже дорівнює її ринковій вартості. Водночас Meta називає такі вимоги безпрецедентними та просить суд відхилити більшість претензій.
Ввечері 19 липня російські війська вдарили керованими авіабомбами по житловому кварталу Запоріжжя. Внаслідок ворожого обстрілу загинули двоє осіб.
Канада тимчасово заборонить в’їзд іноземцям, які протягом останніх 21 дня перебували в Конго. Рішення пояснили спалахом Еболи та необхідністю зменшити ризики для громадського здоров’я.
Американські військові удари по транспортній інфраструктурі Ірану майже ізолювали стратегічний порт у Бендер-Аббас, через який проходить значна частина зовнішньої торгівлі країни.
Дональд Трамп заявив, що Велика Британія має повністю відкрити видобуток нафти в Північному морі. За його словами, це може різко посилити економіку країни.
В Європейському Союзі великі компанії більше не зможуть знищувати непроданий одяг і взуття. Нові правила набули чинності з 19 липня в межах Регламенту ЄС про екодизайн (ESPR).