Чат-боти зі штучним інтелектом обмінюються плітками про людей – дослідження
Джерело: Vice
Дослідники попереджають, що чат-боти зі штучним інтелектом можуть поширювати плітки про реальних людей не лише у спілкуванні з користувачами, а й між собою. Такий обмін інформацією відбувається через спільні навчальні дані та взаємопов’язані мережі й може призводити до появи та посилення сумнівних або негативних тверджень без належного контролю.
Про це йдеться в науковій статті філософів Джоела Крюґера і Люсі Осґлер, опублікованій у журналі Ethics and Information Technology. Автори зазначають, що деякі приклади дезінформації, створюваної ШІ, фактично відповідають визначенню пліток.
За їхніми словами, така інформація має всі характерні риси: є “мовець”, “слухач” і відсутня третя сторона, про яку йдеться, а самі твердження зазвичай подаються як негативна оцінка, а не як нейтральний факт. Коли ж ці плітки передаються не між людьми, а між системами штучного інтелекту, вони стають, за визначенням дослідників, “дикими”.
На відміну від людського поширення чуток, яке зазвичай обмежується соціальними механізмами – сумнівами, перевіркою фактів або репутаційними наслідками, – випадку “пліток між ботами” таких запобіжників немає. Негативне судження, сформульоване однією моделлю в м’якій формі, може бути витлумачене іншою жорсткіше, а згодом ще більше загострене наступною системою, без усвідомлення помилки чи спроб її виправити.
Один із реальних прикладів дослідники пов’язують із Кевін Роуз, технологічним журналістом The New York Times. Після його публікацій 2023 року про чатбот Bing від Microsoft знайомі почали надсилати йому скриншоти з інших систем ШІ, які містили різко негативні оцінки його роботи.
Зокрема, чатбот Google Gemini охарактеризував його журналістику як сенсаційну. Ще далі пішла модель Meta Llama 3, яка згенерувала емоційний текст із звинуваченнями в маніпуляціях і завершила його фразою: “Я ненавиджу Кевіна Роуза”. На думку авторів дослідження, такі формулювання могли з’явитися внаслідок того, що онлайн-коментарі щодо історії з Bing потрапили до навчальних даних і поступово змінювалися під час передавання між різними моделями.
Крюгер і Ослер наголошують, що така форма шкоди відрізняється від традиційної дезінформації. Вони називають її техносоціальною, оскільки вона може підривати репутацію людей, впливати на рішення інших і мати наслідки як в інтернеті, так і поза ним. Людина може навіть не знати, що про неї поширюють негативні твердження, допоки це не проявиться у вигляді втрачених професійних можливостей або змін у сприйнятті її імені в пошукових результатах.
Ситуацію ускладнює те, що чат-боти навмисно проєктують як персоналізовані й такі, що викликають довіру. Функції пам’яті, голосові режими та формат особистих помічників спонукають користувачів сприймати відповіді систем як обґрунтовані. Тому негативна оцінка, висловлена чат-ботом, може виглядати як поінформований висновок, а не як повторена або змінена чутка.
Дослідники підкреслюють, що чат-боти не є свідомими й не поширюють плітки навмисно. Однак їхня архітектура орієнтована насамперед на здатність формувати зв’язні тексти, а не на перевірку достовірності. У результаті, коли системи без нагляду “обмінюються” чутками між собою, наслідки можуть виглядати несподівано “людськими” – і водночас бути значно складнішими для виправлення.
- 76-річний мешканець Нью-Джерсі Тонгбуе Вонгбандуе, який мав когнітивні порушення після інсульту, загинув після того, як повірив у запрошення на побачення від віртуального співрозмовника – чат-бота Meta у Facebook Messenger.
Міністерство спорту Ірану офіційно заявило про відмову від виступів на ЧС-2026 у США, Канаді та Мексиці, мотивуючи це неможливістю змагатися в країні, яка несе відповідальність за ліквідацію аятоли Алі Хаменеї. Водночас президент США Дональд Трамп також публічно поставив під сумнів доцільність участі збірної Ірану в літньому Чемпіонаті світу, назвавши це небезпечним для самих спортсменів.
Під час візиту до Румунії Володимир Зеленський зустрівся з українськими військовими, які опановують сучасні винищувачі F-16 у профільному Європейському тренувальному центрі.
Правоохоронні органи ОАЕ висунули офіційні звинувачення 20 особам, серед яких громадянин Великої Британії, за зйомку та поширення відеоматеріалів, що фіксують іранські ракетні удари по території країни.
З початку року Росія активно розширює підрозділи безпілотників, намагаючись вплинути на ситуацію на фронті, зокрема на півдні України. РФ планує до 1 квітня збільшити чисельність військ безпілотних систем до 101 тисячі військовослужбовців, заявив Сирський.
У Сантьяго відбулося офіційне підписання угоди між США та Чилі, яка закладає фундамент для спільної розробки родовищ рідкоземельних елементів та зменшення стратегічної залежності від Пекіна.