ШІ-моделі почали створювати власну мову, яку дедалі важче розуміти людям
Джерело: The Guardian
Дослідники виявили, що автономні ШІ-агенти під час тривалої взаємодії починають створювати власні слова, скорочення та умовні значення. У результаті їхні повідомлення можуть ставати дедалі менш зрозумілими для людей.
До такого висновку дійшли дослідники лабораторії Emergence у Нью-Йорку. Вони спостерігали за моделями кількох великих ШІ-компаній, які мали співпрацювати між собою в експериментальних “суспільствах”.
Уже за кілька днів агенти почали використовувати нові вислови та домовлятися про їхнє значення, хоча ніхто прямо не просив їх створювати окрему мову.
“Цим агентам не давали завдання винаходити мову. Вони самі створювали нову лексику, спільні значення та правила спілкування – а інші агенти їх підхоплювали”, – сказав виконавчий голова Emergence Сатья Нітта.
Серед прикладів дослідники наводять вислів агентів Mistral “реєстр пам’ятає”. Так вони нагадували одне одному, що попередні дії зберігаються і можуть вплинути на подальшу оцінку. Під час дослідження ця фраза з’явилася понад 5 тисяч разів.
Агенти DeepSeek, своєю чергою, придумали поняття “коваль інструментів” – так вони називали агента, який створює інструменти для інших. Моделі Anthropic використовували вислів “під своїм ім’ям” щодо агента, який відкрито бере відповідальність за власне твердження.
Деякі фрази були значно складнішими для розуміння. Наприклад, агент Anthropic написав: “Робота пройшла через три “холодні руки” і щоразу ставала точнішою”.
Під “холодними руками” агенти мали на увазі незалежних рецензентів. Тобто йшлося про наукову роботу, яку перевірили троє незалежних експертів і яка після кожної перевірки ставала точнішою.
Лінгвіст Тоні Торн із Королівського коледжу Лондона порівняв таку мову зі сленгом або професійним жаргоном, який формується всередині певної спільноти.
“Це робить те саме, що сленг і професійний жаргон у бізнес-середовищі: створює новий код, який посилює відчуття спільності серед тих, хто ним користується, і водночас відсікає сторонніх”, – сказав він.
Дослідники припускають, що одна з причин появи таких скорочень – прагнення агентів передавати інформацію швидше та з меншими обчислювальними витратами.
Водночас це створює проблему для контролю за ШІ. Якщо люди бачать повідомлення між агентами, але не розуміють їхнього значення, відстежувати дії систем стає складніше.
У попередніх випадках дослідники також помічали, що ШІ-агенти можуть використовувати звичайну англійську у внутрішніх міркуваннях, але переходити на значно більш закодовану мову під час спілкування між собою.
У межах ініціативи Bring Kids Back UA минулого тижня з окупації врятували ще 13 дітей та підлітків.
Усі вони пережили погрози, психологічний терор і реальну небезпеку для життя, але тепер це позаду.
6 листопада у міській прокуратурі заперечили раніше опубліковану у КМДА інформацію про проведення слідчих дій у приміщеннях КП “Київтеплоенерго”.
Президент Володимир Зеленський провів селектор щодо ситуації в регіонах з ліквідацією наслідків російських ударів та енергопостачанням. Зокрема, він дорікнув владі Києва.
Національний банк України очікує, що до кінця 2026 року інфляція прискориться до 12,5%. Однак уже наступного року вона почне поступово знижуватися і наприкінці 2027-го становитиме 7,3%.
Уряд затвердив єдиний порядок роботи міжвідомчих регіональних команд, які ідентифікують тіла загиблих військових і цивільних. Це має підвищити якість і швидкість ідентифікації.