Чат-боти зі штучним інтелектом обмінюються плітками про людей – дослідження
Джерело: Vice
Дослідники попереджають, що чат-боти зі штучним інтелектом можуть поширювати плітки про реальних людей не лише у спілкуванні з користувачами, а й між собою. Такий обмін інформацією відбувається через спільні навчальні дані та взаємопов’язані мережі й може призводити до появи та посилення сумнівних або негативних тверджень без належного контролю.
Про це йдеться в науковій статті філософів Джоела Крюґера і Люсі Осґлер, опублікованій у журналі Ethics and Information Technology. Автори зазначають, що деякі приклади дезінформації, створюваної ШІ, фактично відповідають визначенню пліток.
За їхніми словами, така інформація має всі характерні риси: є “мовець”, “слухач” і відсутня третя сторона, про яку йдеться, а самі твердження зазвичай подаються як негативна оцінка, а не як нейтральний факт. Коли ж ці плітки передаються не між людьми, а між системами штучного інтелекту, вони стають, за визначенням дослідників, “дикими”.
На відміну від людського поширення чуток, яке зазвичай обмежується соціальними механізмами – сумнівами, перевіркою фактів або репутаційними наслідками, – випадку “пліток між ботами” таких запобіжників немає. Негативне судження, сформульоване однією моделлю в м’якій формі, може бути витлумачене іншою жорсткіше, а згодом ще більше загострене наступною системою, без усвідомлення помилки чи спроб її виправити.
Один із реальних прикладів дослідники пов’язують із Кевін Роуз, технологічним журналістом The New York Times. Після його публікацій 2023 року про чатбот Bing від Microsoft знайомі почали надсилати йому скриншоти з інших систем ШІ, які містили різко негативні оцінки його роботи.
Зокрема, чатбот Google Gemini охарактеризував його журналістику як сенсаційну. Ще далі пішла модель Meta Llama 3, яка згенерувала емоційний текст із звинуваченнями в маніпуляціях і завершила його фразою: “Я ненавиджу Кевіна Роуза”. На думку авторів дослідження, такі формулювання могли з’явитися внаслідок того, що онлайн-коментарі щодо історії з Bing потрапили до навчальних даних і поступово змінювалися під час передавання між різними моделями.
Крюгер і Ослер наголошують, що така форма шкоди відрізняється від традиційної дезінформації. Вони називають її техносоціальною, оскільки вона може підривати репутацію людей, впливати на рішення інших і мати наслідки як в інтернеті, так і поза ним. Людина може навіть не знати, що про неї поширюють негативні твердження, допоки це не проявиться у вигляді втрачених професійних можливостей або змін у сприйнятті її імені в пошукових результатах.
Ситуацію ускладнює те, що чат-боти навмисно проєктують як персоналізовані й такі, що викликають довіру. Функції пам’яті, голосові режими та формат особистих помічників спонукають користувачів сприймати відповіді систем як обґрунтовані. Тому негативна оцінка, висловлена чат-ботом, може виглядати як поінформований висновок, а не як повторена або змінена чутка.
Дослідники підкреслюють, що чат-боти не є свідомими й не поширюють плітки навмисно. Однак їхня архітектура орієнтована насамперед на здатність формувати зв’язні тексти, а не на перевірку достовірності. У результаті, коли системи без нагляду “обмінюються” чутками між собою, наслідки можуть виглядати несподівано “людськими” – і водночас бути значно складнішими для виправлення.
- 76-річний мешканець Нью-Джерсі Тонгбуе Вонгбандуе, який мав когнітивні порушення після інсульту, загинув після того, як повірив у запрошення на побачення від віртуального співрозмовника – чат-бота Meta у Facebook Messenger.
Посилаючись на дані української розвідки, Президент закликав міжнародну спільноту усвідомити, що агресія Кремля робить будь-які дипломатичні зусилля безглуздими.
Мобільні пристрої, системи супутникового інтернету на кшталт Starlink, а також сервіси електронної пошти та інші IT-технології західних компаній використовуються для “деструктивного інформаційно-технічного впливу” на Росію, заявив помічник секретаря Ради безпеки Росії Дмитро Грибков.
Режисер і виконавчий продюсер серіалу “Бріджертони” Том Веріка підтвердив, що у франшизи можуть з’явитися нові спінофи.
Українцям стане простіше облаштувати свої домівки альтернативними джерелами енергії завдяки новим ініціативам уряду. Держава обіцяє виділити до 300 тисяч гривень на потреби ОСББ, а також скасовує складні реєстраційні процедури для встановлення сонячних панелей на будівлях.
Ожиріння в середньому віці може підвищувати ризик розвитку судинної деменції в старшому віці через тривале підвищення артеріального тиску та поступове ушкодження судин головного мозку. Про це йдеться в новому дослідженні, опублікованому в Journal of Clinical Endocrinology & Metabolism.