В OpenAI занепокоєні, що люди можуть стати емоційно залежними від голосового режиму ChatGPT
Джерело: CNN
В OpenAI стурбовані тим, що люди можуть почати занадто покладатися на ChatGPT для спілкування, що потенційно призведе до “залежності” через його новий голосовий режим, який звучить як людський голос.
Про це мовиться у звіті OpenAI про перевірку безпеки інструменту – який став доступний минулого тижня для передплатників – та широкомовної моделі ШІ, на якій він працює.
Розширений голосовий режим ChatGPT звучить надзвичайно реалістично. Він реагує в режимі реального часу, може пристосовуватися до переривання, видає звуки, які властиві людям під час розмови, як-от сміх або “хм”. Він також може судити про емоційний стан мовця на основі його тону голосу.
Після того, як OpenAI анонсувала цю функцію на початку цього року, її порівнювали з цифровим помічником зі штучним інтелектом у фільмі “Вона” 2013 року, в якого головний герой закохується, але розчаровується, коли ШІ зізналась, що “вона” має “стосунки” з іншими користувачами.
Тепер OpenAI, мабуть, стурбований тим, що вигадана історія занадто близька до того, щоб стати реальністю, після того, як компанія заявила, що помітила, як користувачі розмовляють із голосовим режимом ChatGPT мовою, яка “виражає спільні зв’язки” за допомогою інструменту.
“Користувачі можуть налагодити соціальні стосунки зі штучним інтелектом, зменшуючи їхню потребу у людській взаємодії — це потенційно принесе користь самотнім людям, але, можливо, вплине на здорові стосунки” — мовиться у звіті.
У компанії додали, що почуття інформації від бота, який нагадує людину, може змусити користувачів довіряти інструменту більше, ніж вони повинні, враховуючи схильність ШІ робити щось неправильно.
У звіті також вказано про масштабний ризик через ШІ. Мовиться про те, що технологічні компанії прагнуть якнайшвидше розгорнути інструменти ШІ, які можуть змінити спосіб життя, роботи, спілкування та пошуку інформації.
Але вони роблять це ще до того, як хтось дійсно розуміє, що це означає. Як і у випадку з багатьма технологічними досягненнями, компанії часто мають одне уявлення про те, як можна та потрібно використовувати їхні інструменти, але користувачі придумують цілу низку інших потенційних застосувань, часто з непередбаченими наслідками.
Деякі люди вже формують те, що вони описують як романтичні стосунки з чат-ботами штучного інтелекту, що викликає занепокоєння експертів зі стосунків.
“На компаніях лежить велика відповідальність за те, щоб справді керуватися цим в етичний і відповідальний спосіб, і зараз це все на етапі експериментів. Мене хвилюють люди, які встановлюють дуже глибокі зв’язки з технологією, яка може не існувати в довгостроковій перспективі та постійно розвивається”, — сказала в інтерв’ю CNN Лізель Шарабі, професорка Університету штату Арізона, яка вивчає технології та людське спілкування.
OpenAI каже, що взаємодія людей із голосовим режимом ChatGPT також може з часом вплинути на те, що вважається нормальним у соціальних взаємодіях.
“Наші моделі шанобливі. Вони дозволяють користувачам переривати (спілкування – ред.) та “брати мікрофон” у будь-який час, що було б антинормативним у взаємодії з людьми”, — зазначається у звіті компанії.
Поки OpenAI каже, що прагне створювати ШІ “безпечно” та планує продовжувати вивчати потенціал “емоційної залежності” користувачів від його інструментів.
- Корпорація Meta, до якої належить Facebook, Instagram і WhatsApp, визнала, що її чат-бот Meta AI помилково заперечував факт замаху на кандидата в президенти США Дональда Трампа.
Летючі лисиці, або великі крилани, — унікальні кажани, котрі мешкають у тропічних регіонах, зокрема в Західній Папуа, Індонезія. Вражаючі розмахи крил можуть сягати 1,5 метра, що робить їх одними з найбільших кажанів у світі.
В Україні розпочали перевірки встановлення інвалідності для 1695 посадовців із понад 30 державних органів. Справи, котрі підлягають перегляду, зосереджені на працівниках податкової, прокуратури та митниці. У разі необґрунтованих рішень МСЕК їх переглядатимуть відповідно до постанови уряду.
Голова Центру протидії корупції Віталій Шабунін повідомив, що конфіскацію майна корупціонерів, котрі пішли на угоду зі слідством, знищили законом про позбавлення колаборантів державних нагород.
У НЕК “Укренерго” поінформували, що в усіх регіонах України у вівторок, 26 листопада застосовуватимуть графіки відключення електроенергії. Енергетики закликали до ощадливого споживання світла.
Європейці посилять військову підтримку України, пообіцяв 25 листопада міністр оборони Німеччини Борис Пісторіус після переговорів зі своїми британськими, французькими, італійськими та польськими колегами про те, як посилити оборонні зусилля, позаяк у партнерів досі існують побоювання через повернення Трампа до Білого дому.