В OpenAI занепокоєні, що люди можуть стати емоційно залежними від голосового режиму ChatGPT
Джерело: CNN
В OpenAI стурбовані тим, що люди можуть почати занадто покладатися на ChatGPT для спілкування, що потенційно призведе до “залежності” через його новий голосовий режим, який звучить як людський голос.
Про це мовиться у звіті OpenAI про перевірку безпеки інструменту – який став доступний минулого тижня для передплатників – та широкомовної моделі ШІ, на якій він працює.
Розширений голосовий режим ChatGPT звучить надзвичайно реалістично. Він реагує в режимі реального часу, може пристосовуватися до переривання, видає звуки, які властиві людям під час розмови, як-от сміх або “хм”. Він також може судити про емоційний стан мовця на основі його тону голосу.
Після того, як OpenAI анонсувала цю функцію на початку цього року, її порівнювали з цифровим помічником зі штучним інтелектом у фільмі “Вона” 2013 року, в якого головний герой закохується, але розчаровується, коли ШІ зізналась, що “вона” має “стосунки” з іншими користувачами.
Тепер OpenAI, мабуть, стурбований тим, що вигадана історія занадто близька до того, щоб стати реальністю, після того, як компанія заявила, що помітила, як користувачі розмовляють із голосовим режимом ChatGPT мовою, яка “виражає спільні зв’язки” за допомогою інструменту.
“Користувачі можуть налагодити соціальні стосунки зі штучним інтелектом, зменшуючи їхню потребу у людській взаємодії — це потенційно принесе користь самотнім людям, але, можливо, вплине на здорові стосунки” — мовиться у звіті.
У компанії додали, що почуття інформації від бота, який нагадує людину, може змусити користувачів довіряти інструменту більше, ніж вони повинні, враховуючи схильність ШІ робити щось неправильно.
У звіті також вказано про масштабний ризик через ШІ. Мовиться про те, що технологічні компанії прагнуть якнайшвидше розгорнути інструменти ШІ, які можуть змінити спосіб життя, роботи, спілкування та пошуку інформації.
Але вони роблять це ще до того, як хтось дійсно розуміє, що це означає. Як і у випадку з багатьма технологічними досягненнями, компанії часто мають одне уявлення про те, як можна та потрібно використовувати їхні інструменти, але користувачі придумують цілу низку інших потенційних застосувань, часто з непередбаченими наслідками.
Деякі люди вже формують те, що вони описують як романтичні стосунки з чат-ботами штучного інтелекту, що викликає занепокоєння експертів зі стосунків.
“На компаніях лежить велика відповідальність за те, щоб справді керуватися цим в етичний і відповідальний спосіб, і зараз це все на етапі експериментів. Мене хвилюють люди, які встановлюють дуже глибокі зв’язки з технологією, яка може не існувати в довгостроковій перспективі та постійно розвивається”, — сказала в інтерв’ю CNN Лізель Шарабі, професорка Університету штату Арізона, яка вивчає технології та людське спілкування.
OpenAI каже, що взаємодія людей із голосовим режимом ChatGPT також може з часом вплинути на те, що вважається нормальним у соціальних взаємодіях.
“Наші моделі шанобливі. Вони дозволяють користувачам переривати (спілкування – ред.) та “брати мікрофон” у будь-який час, що було б антинормативним у взаємодії з людьми”, — зазначається у звіті компанії.
Поки OpenAI каже, що прагне створювати ШІ “безпечно” та планує продовжувати вивчати потенціал “емоційної залежності” користувачів від його інструментів.
- Корпорація Meta, до якої належить Facebook, Instagram і WhatsApp, визнала, що її чат-бот Meta AI помилково заперечував факт замаху на кандидата в президенти США Дональда Трампа.
У понеділок, 13 липня, в Україні збережеться помірно тепла погода, а вже з вівторка температура повітря почне поступово підвищуватися. Про це повідомила синоптикиня Наталка Діденко.
Рут Елліс, останню жінку, яку стратили через повішення у Великій Британії, посмертно помилували. Рішення ухвалили після того, як з’явилися докази, що вона зазнавала домашнього насильства та контролю з боку свого партнера, а ці обставини не врахували під час суду.
Роберт Паттінсон порівняв свого героя у майбутньому фільмі “Одіссея” із Джейкобом із франшизи “Сутінки”. За словами актора, його персонаж Антіной також опиняється в любовному трикутнику, через що він неодноразово проводив паралелі між двома історіями.
Російський дрон поцілив в зупинку громадського транспорту в Херсоні, внаслідок чого постраждали четверо людей.
Британський співак Гаррі Стайлз встановив новий рекорд Книги рекордів Гіннеса за найдовшу серію концертів на лондонському стадіоні “Вемблі”. Артист провів 12 концертів із повністю розпроданими квитками в межах туру “Together, Together”, перевершивши попереднє досягнення гурту Coldplay.