Чат-боти зі штучним інтелектом обмінюються плітками про людей – дослідження
Джерело: Vice
Дослідники попереджають, що чат-боти зі штучним інтелектом можуть поширювати плітки про реальних людей не лише у спілкуванні з користувачами, а й між собою. Такий обмін інформацією відбувається через спільні навчальні дані та взаємопов’язані мережі й може призводити до появи та посилення сумнівних або негативних тверджень без належного контролю.
Про це йдеться в науковій статті філософів Джоела Крюґера і Люсі Осґлер, опублікованій у журналі Ethics and Information Technology. Автори зазначають, що деякі приклади дезінформації, створюваної ШІ, фактично відповідають визначенню пліток.
За їхніми словами, така інформація має всі характерні риси: є “мовець”, “слухач” і відсутня третя сторона, про яку йдеться, а самі твердження зазвичай подаються як негативна оцінка, а не як нейтральний факт. Коли ж ці плітки передаються не між людьми, а між системами штучного інтелекту, вони стають, за визначенням дослідників, “дикими”.
На відміну від людського поширення чуток, яке зазвичай обмежується соціальними механізмами – сумнівами, перевіркою фактів або репутаційними наслідками, – випадку “пліток між ботами” таких запобіжників немає. Негативне судження, сформульоване однією моделлю в м’якій формі, може бути витлумачене іншою жорсткіше, а згодом ще більше загострене наступною системою, без усвідомлення помилки чи спроб її виправити.
Один із реальних прикладів дослідники пов’язують із Кевін Роуз, технологічним журналістом The New York Times. Після його публікацій 2023 року про чатбот Bing від Microsoft знайомі почали надсилати йому скриншоти з інших систем ШІ, які містили різко негативні оцінки його роботи.
Зокрема, чатбот Google Gemini охарактеризував його журналістику як сенсаційну. Ще далі пішла модель Meta Llama 3, яка згенерувала емоційний текст із звинуваченнями в маніпуляціях і завершила його фразою: “Я ненавиджу Кевіна Роуза”. На думку авторів дослідження, такі формулювання могли з’явитися внаслідок того, що онлайн-коментарі щодо історії з Bing потрапили до навчальних даних і поступово змінювалися під час передавання між різними моделями.
Крюгер і Ослер наголошують, що така форма шкоди відрізняється від традиційної дезінформації. Вони називають її техносоціальною, оскільки вона може підривати репутацію людей, впливати на рішення інших і мати наслідки як в інтернеті, так і поза ним. Людина може навіть не знати, що про неї поширюють негативні твердження, допоки це не проявиться у вигляді втрачених професійних можливостей або змін у сприйнятті її імені в пошукових результатах.
Ситуацію ускладнює те, що чат-боти навмисно проєктують як персоналізовані й такі, що викликають довіру. Функції пам’яті, голосові режими та формат особистих помічників спонукають користувачів сприймати відповіді систем як обґрунтовані. Тому негативна оцінка, висловлена чат-ботом, може виглядати як поінформований висновок, а не як повторена або змінена чутка.
Дослідники підкреслюють, що чат-боти не є свідомими й не поширюють плітки навмисно. Однак їхня архітектура орієнтована насамперед на здатність формувати зв’язні тексти, а не на перевірку достовірності. У результаті, коли системи без нагляду “обмінюються” чутками між собою, наслідки можуть виглядати несподівано “людськими” – і водночас бути значно складнішими для виправлення.
- 76-річний мешканець Нью-Джерсі Тонгбуе Вонгбандуе, який мав когнітивні порушення після інсульту, загинув після того, як повірив у запрошення на побачення від віртуального співрозмовника – чат-бота Meta у Facebook Messenger.
Засновник криптовалюти Tron Джастін Сан ініціював судовий процес проти компанії World Liberty Financial, яку заснував Дональд Трамп разом зі своїми синами. Бізнесмен стверджує, що проєкт незаконно заблокував його активи на суму 320 мільйонів доларів і погрожував повністю видалити їх із мережі.
Друга за значущістю посадова особа Німеччини, очільниця Бундестагу Юлія Кльокнер, опинилася в центрі скандалу через злам її особистого месенджера. За даними розслідування Der Spiegel, хакери використали складну схему фішингу, спрямовану на конфіденційні переписки провідних консервативних політиків країни.
Європейська комісія представила масштабну стратегію боротьби з енергетичною кризою, спровокованою конфліктом з Іраном. План передбачає радикальне зниження податків на електрику та запуск нових програм лояльності для споживачів, які погодяться замінити паливні автомобілі та обігрівачі на екологічно чисті аналоги.
Муніципалітет італійського курортного міста Річчоне придбав на аукціоні віллу, де проводив літо диктатор Беніто Муссоліні. Ключовою метою угоди було не допустити, щоб історична будівля опинилася у власності осіб, пов’язаних із неофашистськими колами.
Українська журналістка та блогерка Емма Антонюк опинилася в центрі гучного скандалу після висловлювань про схід України та внутрішньо переміщених осіб. Її слова викликали хвилю критики в соцмережах, а сама авторка проєкту “Різниця Є” згодом оголосила про його закриття.