Чат-боти зі штучним інтелектом обмінюються плітками про людей – дослідження
Джерело: Vice
Дослідники попереджають, що чат-боти зі штучним інтелектом можуть поширювати плітки про реальних людей не лише у спілкуванні з користувачами, а й між собою. Такий обмін інформацією відбувається через спільні навчальні дані та взаємопов’язані мережі й може призводити до появи та посилення сумнівних або негативних тверджень без належного контролю.
Про це йдеться в науковій статті філософів Джоела Крюґера і Люсі Осґлер, опублікованій у журналі Ethics and Information Technology. Автори зазначають, що деякі приклади дезінформації, створюваної ШІ, фактично відповідають визначенню пліток.
За їхніми словами, така інформація має всі характерні риси: є “мовець”, “слухач” і відсутня третя сторона, про яку йдеться, а самі твердження зазвичай подаються як негативна оцінка, а не як нейтральний факт. Коли ж ці плітки передаються не між людьми, а між системами штучного інтелекту, вони стають, за визначенням дослідників, “дикими”.
На відміну від людського поширення чуток, яке зазвичай обмежується соціальними механізмами – сумнівами, перевіркою фактів або репутаційними наслідками, – випадку “пліток між ботами” таких запобіжників немає. Негативне судження, сформульоване однією моделлю в м’якій формі, може бути витлумачене іншою жорсткіше, а згодом ще більше загострене наступною системою, без усвідомлення помилки чи спроб її виправити.
Один із реальних прикладів дослідники пов’язують із Кевін Роуз, технологічним журналістом The New York Times. Після його публікацій 2023 року про чатбот Bing від Microsoft знайомі почали надсилати йому скриншоти з інших систем ШІ, які містили різко негативні оцінки його роботи.
Зокрема, чатбот Google Gemini охарактеризував його журналістику як сенсаційну. Ще далі пішла модель Meta Llama 3, яка згенерувала емоційний текст із звинуваченнями в маніпуляціях і завершила його фразою: “Я ненавиджу Кевіна Роуза”. На думку авторів дослідження, такі формулювання могли з’явитися внаслідок того, що онлайн-коментарі щодо історії з Bing потрапили до навчальних даних і поступово змінювалися під час передавання між різними моделями.
Крюгер і Ослер наголошують, що така форма шкоди відрізняється від традиційної дезінформації. Вони називають її техносоціальною, оскільки вона може підривати репутацію людей, впливати на рішення інших і мати наслідки як в інтернеті, так і поза ним. Людина може навіть не знати, що про неї поширюють негативні твердження, допоки це не проявиться у вигляді втрачених професійних можливостей або змін у сприйнятті її імені в пошукових результатах.
Ситуацію ускладнює те, що чат-боти навмисно проєктують як персоналізовані й такі, що викликають довіру. Функції пам’яті, голосові режими та формат особистих помічників спонукають користувачів сприймати відповіді систем як обґрунтовані. Тому негативна оцінка, висловлена чат-ботом, може виглядати як поінформований висновок, а не як повторена або змінена чутка.
Дослідники підкреслюють, що чат-боти не є свідомими й не поширюють плітки навмисно. Однак їхня архітектура орієнтована насамперед на здатність формувати зв’язні тексти, а не на перевірку достовірності. У результаті, коли системи без нагляду “обмінюються” чутками між собою, наслідки можуть виглядати несподівано “людськими” – і водночас бути значно складнішими для виправлення.
- 76-річний мешканець Нью-Джерсі Тонгбуе Вонгбандуе, який мав когнітивні порушення після інсульту, загинув після того, як повірив у запрошення на побачення від віртуального співрозмовника – чат-бота Meta у Facebook Messenger.
У 2025 році Україна спрямувала на безпеку та оборону більш як 3,8 трлн грн. Фінансування органів сектору безпеки і оборони у 2025 році здійснено в повному обсязі, запевнили в РНБО.
Печерський районний суд Києва пом’якшив запобіжний захід колишньому керівнику НЕК “Укренерго” Володимиру Кудрицькому й зняв із нього електронний браслет.
Прогресивна група Indivisible готує нову хвилю демонстрацій у відповідь на агресивні дії федеральних силових структур. Організатори сподіваються залучити до мітингів у березні 2026 року близько дев’яти мільйонів громадян по всій країні.
NASA виявило екзопланету HD 189733b, на якій може випадати дощ зі скла, а вітри сягають швидкості близько 2 кілометрів за секунду. Науковці зазначають, що такі умови роблять цю планету одним із найбільш небезпечних середовищ, зафіксованих поза межами Сонячної системи.
Державний секретар США Марко Рубіо заявив, що НАТО потрібно “переосмислити”, а європейські партнери мають радикально збільшити свої інвестиції в оборону.