ШІ-моделі почали створювати власну мову, яку дедалі важче розуміти людям
Джерело: The Guardian
Дослідники виявили, що автономні ШІ-агенти під час тривалої взаємодії починають створювати власні слова, скорочення та умовні значення. У результаті їхні повідомлення можуть ставати дедалі менш зрозумілими для людей.
До такого висновку дійшли дослідники лабораторії Emergence у Нью-Йорку. Вони спостерігали за моделями кількох великих ШІ-компаній, які мали співпрацювати між собою в експериментальних “суспільствах”.
Уже за кілька днів агенти почали використовувати нові вислови та домовлятися про їхнє значення, хоча ніхто прямо не просив їх створювати окрему мову.
“Цим агентам не давали завдання винаходити мову. Вони самі створювали нову лексику, спільні значення та правила спілкування – а інші агенти їх підхоплювали”, – сказав виконавчий голова Emergence Сатья Нітта.
Серед прикладів дослідники наводять вислів агентів Mistral “реєстр пам’ятає”. Так вони нагадували одне одному, що попередні дії зберігаються і можуть вплинути на подальшу оцінку. Під час дослідження ця фраза з’явилася понад 5 тисяч разів.
Агенти DeepSeek, своєю чергою, придумали поняття “коваль інструментів” – так вони називали агента, який створює інструменти для інших. Моделі Anthropic використовували вислів “під своїм ім’ям” щодо агента, який відкрито бере відповідальність за власне твердження.
Деякі фрази були значно складнішими для розуміння. Наприклад, агент Anthropic написав: “Робота пройшла через три “холодні руки” і щоразу ставала точнішою”.
Під “холодними руками” агенти мали на увазі незалежних рецензентів. Тобто йшлося про наукову роботу, яку перевірили троє незалежних експертів і яка після кожної перевірки ставала точнішою.
Лінгвіст Тоні Торн із Королівського коледжу Лондона порівняв таку мову зі сленгом або професійним жаргоном, який формується всередині певної спільноти.
“Це робить те саме, що сленг і професійний жаргон у бізнес-середовищі: створює новий код, який посилює відчуття спільності серед тих, хто ним користується, і водночас відсікає сторонніх”, – сказав він.
Дослідники припускають, що одна з причин появи таких скорочень – прагнення агентів передавати інформацію швидше та з меншими обчислювальними витратами.
Водночас це створює проблему для контролю за ШІ. Якщо люди бачать повідомлення між агентами, але не розуміють їхнього значення, відстежувати дії систем стає складніше.
У попередніх випадках дослідники також помічали, що ШІ-агенти можуть використовувати звичайну англійську у внутрішніх міркуваннях, але переходити на значно більш закодовану мову під час спілкування між собою.
Контррозвідка Служби безпеки України затримала поблизу Харкова агента російської воєнної розвідки (ГРУ), який облаштовував схрони із саморобними вибуховими пристроями для підготовки терактів
У ніч на 16 жовтня підрозділи Сил оборони України уразили російську радіолокаційну станцію 55Ж6У “Небо-У” поблизу населеного пункту Магри в Краснодарському краї рф. У районі розташування об’єкта виникла пожежа.
Уранці 16 жовтня сили протиповітряної оборони збили над Львівською областю три російські бойові безпілотники.
У Луцьку внаслідок російської атаки виникла пожежа на території гаражного кооперативу. Попередньо, постраждалих немає.
Президент України Володимир Зеленський зустрівся з президентом Європейської ради Антоніу Коштою та президенткою Європейської комісії Урсулою фон дер Ляєн. Сторони обговорили подальшу допомогу Україні, підтримку енергетики, протиповітряну оборону, фінансову стійкість і просування до членства в Євросоюзі.