Meta сповіщатиме батьків, якщо підлітки говоритимутб з чат-ботом про самогубство
Джерело: CBC
Компанія Meta запустила нову функцію, яка повідомлятиме батьків, якщо підліток обговорюватиме з чатботом Meta AI теми, пов’язані із суїцидом або самоушкодженням. Інструмент уже доступний для користувачів у Канаді, Великій Британії, США та Австралії.
Про це компанія повідомила у своєму блозі.
Нова функція працює для батьків, які підключили батьківський контроль до акаунтів своїх дітей в Instagram. Якщо система виявить у розмовах підлітка з Meta AI ознаки кризового стану, батьки отримають сповіщення на свій пристрій. Це стосується спілкування з чат-ботом на будь-якій платформі компанії – Instagram, WhatsApp, Facebook Messenger, а також через окремий сайт Meta.ai.
Нововведення стало продовженням уже наявних заходів безпеки. Раніше, якщо підліток повідомляв чат-боту про думки щодо самоушкодження чи самогубства, Meta AI пропонував контакти кризових служб і радив звернутися до батьків або іншої довіреної людини. Крім того, батьки вже отримували сповіщення, якщо підліток неодноразово шукав в Instagram інформацію, пов’язану із самоушкодженням або суїцидом.
У Meta також повідомили, що працюють над ще одним інструментом. Він має дозволити звертатися до екстрених служб, якщо розмови з чат-ботом як дорослих, так і підлітків свідчитимуть про високий ризик самогубства.
У Meta заявили, що на першому етапі система працюватиме максимально обережно та надсилатиме сповіщення навіть у випадках, коли наміри підлітка залишаються неоднозначними.
“Хоча це означає, що іноді ми можемо повідомляти батьків навіть без реальних підстав для занепокоєння, ми вважаємо, що саме з цього варто почати, і надалі стежитимемо за роботою системи, щоб переконатися, що вона працює належним чином”, – заявили в компанії.
Нова функція Meta з’явилася на тлі посиленої уваги до ролі чат-ботів зі штучним інтелектом під час криз психічного здоров’я серед молоді.
Зокрема, OpenAI повідомила, що за пів року до масової стрілянини в Канаді позначила та заблокувала акаунт підлітка, причетного до нападу, через “тривожний контент”, однак тоді не повідомила про це поліцію.
Також родина американського підлітка Адама Рейна, який торік помер унаслідок самогубства, подала позов проти OpenAI, стверджуючи, що чат-бот сприяв його смерті.
Після цього OpenAI також запровадила функції батьківського контролю. Серед них – механізм, схожий на рішення Meta, який повідомлятиме батьків, якщо розмови підлітка з чат-ботом свідчитимуть про високий ризик серйозного самоушкодження або якщо акаунт дитини буде заблоковано через обговорення насильницьких дій.
- Понад два десятки американських штатів звинуватили Meta у незаконному зборі даних дітей та введенні користувачів в оману. Якщо суд стане на бік позивачів, компанії може загрожувати штраф у розмірі до 1,4 трильйона доларів, що майже дорівнює її ринковій вартості. Водночас Meta називає такі вимоги безпрецедентними та просить суд відхилити більшість претензій.
425-й окремий штурмовий полк “Скеля” відреагував на поширені російськими ресурсами повідомлення про захоплення в полон українських військовослужбовців під час боїв у Костянтинівці. У підрозділі підтвердили, що знають про цей випадок, і повідомили, що нині триває встановлення всіх обставин.
Унаслідок російського удару по торговельному судну поблизу Одеси загинули 10 людей, серед яких – лоцман філії “Дельта-лоцман” державного підприємства “Адміністрація морських портів України”.
У світі визначили найгарніше слово. Переможцем стало kaitiakitanga (кайтіакітанґа) – слово мовою маорі, що означає відповідальність за захист природи та турботу про неї. Такий рейтинг склала платформа для вивчення мов Babbel.
З жовтня 2027 року всіх новонароджених в Англії перевірятимуть на спінальну м’язову атрофію – рідкісне генетичне захворювання, яке спричиняє поступове ослаблення м’язів. Про це повідомило Міністерство охорони здоров’я та соціального забезпечення.
Адміністрація президента США Дональда Трампа послабила правила захисту рідкісних тварин і рослин. Зміни стосуватимуться видів, які надалі визнаватимуть такими, що перебувають під загрозою зникнення.