В OpenAI занепокоєні, що люди можуть стати емоційно залежними від голосового режиму ChatGPT

Джерело: CNN

В OpenAI стурбовані тим, що люди можуть почати занадто покладатися на ChatGPT для спілкування, що потенційно призведе до “залежності” через його новий голосовий режим, який звучить як людський голос.

Про це мовиться у звіті OpenAI про перевірку безпеки інструменту – який став доступний минулого тижня для передплатників – та широкомовної моделі ШІ, на якій він працює.

Розширений голосовий режим ChatGPT звучить надзвичайно реалістично. Він реагує в режимі реального часу, може пристосовуватися до переривання, видає звуки, які властиві людям під час розмови, як-от сміх або “хм”. Він також може судити про емоційний стан мовця на основі його тону голосу.

Після того, як OpenAI анонсувала цю функцію на початку цього року, її порівнювали з цифровим помічником зі штучним інтелектом у фільмі “Вона” 2013 року, в якого головний герой закохується, але розчаровується, коли ШІ зізналась, що “вона” має “стосунки” з іншими користувачами.

Тепер OpenAI, мабуть, стурбований тим, що вигадана історія занадто близька до того, щоб стати реальністю, після того, як компанія заявила, що помітила, як користувачі розмовляють із голосовим режимом ChatGPT мовою, яка “виражає спільні зв’язки” за допомогою інструменту.

“Користувачі можуть налагодити соціальні стосунки зі штучним інтелектом, зменшуючи їхню потребу у людській взаємодії — це потенційно принесе користь самотнім людям, але, можливо, вплине на здорові стосунки” — мовиться у звіті.

У компанії додали, що почуття інформації від бота, який нагадує людину, може змусити користувачів довіряти інструменту більше, ніж вони повинні, враховуючи схильність ШІ робити щось неправильно.

У звіті також вказано про масштабний ризик через ШІ. Мовиться про те, що технологічні компанії прагнуть якнайшвидше розгорнути інструменти ШІ, які можуть змінити спосіб життя, роботи, спілкування та пошуку інформації.

Але вони роблять це ще до того, як хтось дійсно розуміє, що це означає. Як і у випадку з багатьма технологічними досягненнями, компанії часто мають одне уявлення про те, як можна та потрібно використовувати їхні інструменти, але користувачі придумують цілу низку інших потенційних застосувань, часто з непередбаченими наслідками.

Деякі люди вже формують те, що вони описують як романтичні стосунки з чат-ботами штучного інтелекту, що викликає занепокоєння експертів зі стосунків.

“На компаніях лежить велика відповідальність за те, щоб справді керуватися цим в етичний і відповідальний спосіб, і зараз це все на етапі експериментів. Мене хвилюють люди, які встановлюють дуже глибокі зв’язки з технологією, яка може не існувати в довгостроковій перспективі та постійно розвивається”, — сказала в інтерв’ю CNN Лізель Шарабі, професорка Університету штату Арізона, яка вивчає технології та людське спілкування.

OpenAI каже, що взаємодія людей із голосовим режимом ChatGPT також може з часом вплинути на те, що вважається нормальним у соціальних взаємодіях.

“Наші моделі шанобливі. Вони дозволяють користувачам переривати (спілкування – ред.) та “брати мікрофон” у будь-який час, що було б антинормативним у взаємодії з людьми”, — зазначається у звіті компанії.

Поки OpenAI каже, що прагне створювати ШІ “безпечно” та планує продовжувати вивчати потенціал “емоційної залежності” користувачів від його інструментів.

• Корпорація Meta, до якої належить Facebook, Instagram і WhatsApp, визнала, що її чат-бот Meta AI помилково заперечував факт замаху на кандидата в президенти США Дональда Трампа.