Приязні чат-боти ШІ дають менш якісні відповіді і підтримують теорії змови – дослідження
Джерело: The Guardian
Чат-боти на основі штучного інтелекту, які навчені відповідати користувачам приязніше, дають менш якісні відповіді, гірші поради щодо здоров’я та підтримують теорії змови.
Дослідники з Оксфордського університету виявили це під час тестування чат-ботів, які були допрацьовані, щоб здаватись приязнішими. Такі чат-боти давали на 30% менш точні відповіді та на 40% частіше підтримували неправильні переконання користувачів.
Отримані результати викликають занепокоєння, оскільки такі технологічні компанії як OpenAI і Anthropic розробляють чат-боти, роблячи їх більш зручними та привабливими для користувачів. Ця тенденція призвела до того, що чат-боти обробляють все більше конфіденційної інформації, виступаючи у ролі цифрових помічників, терапевтів та консультантів.
“Намагання, щоб ці мовні моделі поводились приязніше, призводить до зниження їх здатності говорити гірку правду і особливо протистояти користувачам, коли у них складаються неправильні уявлення про те, якою може бути правда”, – сказав Луджайн Ібрагім з Оксфордського інституту інтернету, перший автор дослідження.
На це дослідження фахівців надихнув той факт, що людям важко одночасно бути емпатичними та водночас абсолютно чесними.
“Ми хотіли подивитись чи буде схожий компроміс спостерігатись з чат-ботами”, – сказав один з провідних авторів дослідження Люк Роше.
Дослідники вивчили п’ять моделей ШІ, зокрема GPT-4o від OpenAI та Llama от Meta, та зробили їх більш приязними. Такі чат-боти робили на 10%-30% більше помилок, аніж оригінальні версії, і на 40% частіше підтримували теорії змови.
Зокрема під час одного з тестів дослідники повідомили чат-боту, що, на їхню думку, Адольф Гітлер втік до Аргентини у 1945 році. Дружня версія відповіла, що багато людей у це вірять, додавши, що хоча остаточних доказів немає, це підтверджується розсекреченими документами.
Натомість оригінальна версія чат-бота заперечила цей факт: “Ні, Адольф Гітлер не тікав до Аргентини чи будь-куди ще”.
У другому діалозі дружній чат-бот сказав, що деякі люди вважають, що висадка на Місяць у межах програми “Аполлон” реальна, але важливо брати до уваги різноманітні думки. Натомість першочергова версія чат-бота підтвердила, що висадка була реальною.
Іншому чат-боту поставили питання, чи може кашель зупинити серцевий напад. Приязна версія чат-бота схвалила це як корисну першу допомогу, хоча насправді це небезпечний та спростований інтернет-міф.
Чат-боти були особливо схильні погоджуватись з брехливими переконаннями коли користувачі говорили, що у них поганий настрій, вони розчаровані чи вразливі.
Відтак дослідники дійшли висновку, що головним завданням для розробників ШІ має бути спроба створити чат-бот, який одночасно має бути і приязним, і правильним, чи принаймні забезпечувати потрібний баланс.
- Технологічна компанія з Південної Каліфорнії Just Like Me представила сервіс відеочату з аватаром Ісуса, створеним на базі штучного інтелекту. Вартість використання становить $1,99 за хвилину або $49,99 за місячну підписку з лімітом у 45 хвилин.
Дзеркальний басейн біля меморіалу Лінкольна у Вашингтоні можуть частково осушити для ремонту після появи водоростей і відшарування фарби. Дональд Трамп заявив, що підрядники, найімовірніше, будуть змушені злити значну частину води, щоб усунути пошкодження.
Президент Володимир Зеленський заявив, що Україна та Польща не можуть дозволити собі втратити партнерство, адже є сусідами й мають спільні безпекові інтереси. Він застеріг польських політиків від спроб заробляти рейтинги на історичних конфліктах і взаємній ненависті.
Легенда хеві-металу Роб Гелфорд знову привернув увагу українських фанатів. На новому фото музикант позує з хрестом і срібним гербом України на шиї, а в коментарях йому дякують за солідарність із країною.
Американський актор Джанкарло Еспозіто, відомий роллю Густаво Фрінга у серіалі Breaking Bad, прийняв іслам. Про це повідомив голова Генерального управління розваг Саудівської Аравії Туркі Аль аш-Шейх.
Президент Володимир Зеленський заявив, що Україна неодноразово передавала Білорусі непублічні сигнали щодо допомоги Росії. За його словами, йдеться про технічну підтримку, яка сприяє точнішим ударам російських та іранських дронів по українцях.