Meta сповіщатиме батьків, якщо підлітки говоритимутб з чат-ботом про самогубство
Джерело: CBC
Компанія Meta запустила нову функцію, яка повідомлятиме батьків, якщо підліток обговорюватиме з чатботом Meta AI теми, пов’язані із суїцидом або самоушкодженням. Інструмент уже доступний для користувачів у Канаді, Великій Британії, США та Австралії.
Про це компанія повідомила у своєму блозі.
Нова функція працює для батьків, які підключили батьківський контроль до акаунтів своїх дітей в Instagram. Якщо система виявить у розмовах підлітка з Meta AI ознаки кризового стану, батьки отримають сповіщення на свій пристрій. Це стосується спілкування з чат-ботом на будь-якій платформі компанії – Instagram, WhatsApp, Facebook Messenger, а також через окремий сайт Meta.ai.
Нововведення стало продовженням уже наявних заходів безпеки. Раніше, якщо підліток повідомляв чат-боту про думки щодо самоушкодження чи самогубства, Meta AI пропонував контакти кризових служб і радив звернутися до батьків або іншої довіреної людини. Крім того, батьки вже отримували сповіщення, якщо підліток неодноразово шукав в Instagram інформацію, пов’язану із самоушкодженням або суїцидом.
У Meta також повідомили, що працюють над ще одним інструментом. Він має дозволити звертатися до екстрених служб, якщо розмови з чат-ботом як дорослих, так і підлітків свідчитимуть про високий ризик самогубства.
У Meta заявили, що на першому етапі система працюватиме максимально обережно та надсилатиме сповіщення навіть у випадках, коли наміри підлітка залишаються неоднозначними.
“Хоча це означає, що іноді ми можемо повідомляти батьків навіть без реальних підстав для занепокоєння, ми вважаємо, що саме з цього варто почати, і надалі стежитимемо за роботою системи, щоб переконатися, що вона працює належним чином”, – заявили в компанії.
Нова функція Meta з’явилася на тлі посиленої уваги до ролі чат-ботів зі штучним інтелектом під час криз психічного здоров’я серед молоді.
Зокрема, OpenAI повідомила, що за пів року до масової стрілянини в Канаді позначила та заблокувала акаунт підлітка, причетного до нападу, через “тривожний контент”, однак тоді не повідомила про це поліцію.
Також родина американського підлітка Адама Рейна, який торік помер унаслідок самогубства, подала позов проти OpenAI, стверджуючи, що чат-бот сприяв його смерті.
Після цього OpenAI також запровадила функції батьківського контролю. Серед них – механізм, схожий на рішення Meta, який повідомлятиме батьків, якщо розмови підлітка з чат-ботом свідчитимуть про високий ризик серйозного самоушкодження або якщо акаунт дитини буде заблоковано через обговорення насильницьких дій.
- Понад два десятки американських штатів звинуватили Meta у незаконному зборі даних дітей та введенні користувачів в оману. Якщо суд стане на бік позивачів, компанії може загрожувати штраф у розмірі до 1,4 трильйона доларів, що майже дорівнює її ринковій вартості. Водночас Meta називає такі вимоги безпрецедентними та просить суд відхилити більшість претензій.
У федеральному суді Брукліна стартував процес проти Huawei, яку прокуратура США звинувачує у багаторічній схемі крадіжки технологій, порушенні санкцій та рекеті. Захист компанії наполягає, що йдеться про звичайну конкуренцію, а не злочинну змову.
Уганда відмовилася від участі в “Іграх нескорених”, заявивши, що не хоче бути сприйнята як сторона, яка виступає проти короля Чарльза III. Рішення оголосив головнокомандувач угандійської армії Мугоозі Каїнеругаба, який окремо розкритикував “нісенітницю Гаррі та Меган”.
США планують виділити Еквадору ще 45 мільйонів доларів на боротьбу з наркотрафіком і передати нові патрульні судна. Про це заявив держсекретар Марко Рубіо після зустрічі з президентом Даніелем Нобоа.
Apple представила iPhone Duo – перший складаний смартфон у лінійці iPhone. У розкладеному вигляді він отримав 7,6-дюймовий дисплей, а у складеному – компактний зовнішній екран на 5,4 дюйма.
Рада керівників МАГАТЕ вперше за 20 років передала справу Ірану до Ради Безпеки ООН через відсутність належної співпраці у розслідуванні слідів урану на незадекларованих об’єктах. За резолюцію проголосували 23 із 35 членів ради.