Google додасть до чат-бота Gemini інструменти для підтримки психічного здоров’я
Джерело: Bloomberg
Компанія Google планує запровадити нові функції для підтримки психічного здоров’я у своєму чат-боті Gemini. Це відбувається на тлі судових позовів проти розробників штучного інтелекту, зокрема OpenAI, у яких стверджується, що такі інструменти могли спричиняти шкоду користувачам.
Зокрема, Gemini отримає інтерфейс, який у разі відповідних сигналів у розмові скеровуватиме користувача на гарячу лінію допомоги. Йдеться про випадки, коли система фіксує “потенційну кризу, пов’язану із суїцидом або самопошкодженням”.
Крім цього, Google додає спеціальний модуль “допомога доступна” для діалогів на теми психічного здоров’я, а також вносить зміни в дизайн, спрямовані на зменшення ризику самопошкодження.
У компанії зазначають, що нові функції є частиною ширших змін у роботі сервісу. Зокрема, Gemini навчено “не погоджуватися і не підсилювати хибні переконання, а натомість м’яко розрізняти суб’єктивний досвід і об’єктивні факти”. Деталі того, як саме це реалізовано, не розкриваються.
Запровадження цих змін відбувається на тлі зростання уваги до впливу чат-ботів на користувачів. Швидке поширення таких інструментів, як Gemini і ChatGPT, призвело до того, що частина людей почала формувати з ними надмірно тісні взаємодії. За повідомленнями, у деяких випадках це супроводжувалося появою хибних переконань і небезпечної поведінки.
Кілька родин уже подали позови проти провідних розробників штучного інтелекту. Зокрема, у березні родина 36-річного чоловіка з Флориди звернулася до суду проти Google, стверджуючи, що використання Gemini призвело до “чотириденного занурення у насильницькі дії та підштовхування до самогубства”.
У Google тоді заявили, що чат-бот неодноразово рекомендував звернутися на гарячу лінію допомоги, і пообіцяли посилити запобіжні механізми.
У Google також повідомили, що протягом наступних трьох років виділять 30 млн доларів на підтримку глобальних служб кризової допомоги.
- Дослідження показало, що чатботи на основі великих мовних моделей, зокрема ChatGPT, можуть бути не готові виконувати роль порадників із питань психічного здоров’я. Навіть коли системам дають інструкції використовувати перевірені психотерапевтичні підходи, вони часто не відповідають етичним стандартам, встановленим професійними організаціями.
Італія відправляє близько 100 військових і кілька винищувачів до Румунії в межах навчальної місії, спрямованої на підготовку румунських сил до протидії загрозам з боку Росії.
У тимчасово окупованому Криму продаж бензину марки АІ-95 здійснюватиметься за талонами без обмежень щодо обсягу, а також у пріоритетному порядку для комунального та соціального транспорту.
У Державній інспекції ядерного регулювання України прокоментували поширену російськими пропагандистськими ресурсами інформацію про нібито пошкодження дроном машинного залу енергоблоку №6 тимчасово окупованої Запорізької АЕС.
У Нижньогородській області РФ створять міністерство, яке займатиметься захистом об’єктів регіону, зокрема від атак безпілотників.
Президент України Володимир Зеленський заявив, що Росія дедалі відвертіше висловлює погрози на адресу інших країн.