ШІ-моделі почали створювати власну мову, яку дедалі важче розуміти людям
Джерело: The Guardian
Дослідники виявили, що автономні ШІ-агенти під час тривалої взаємодії починають створювати власні слова, скорочення та умовні значення. У результаті їхні повідомлення можуть ставати дедалі менш зрозумілими для людей.
До такого висновку дійшли дослідники лабораторії Emergence у Нью-Йорку. Вони спостерігали за моделями кількох великих ШІ-компаній, які мали співпрацювати між собою в експериментальних “суспільствах”.
Уже за кілька днів агенти почали використовувати нові вислови та домовлятися про їхнє значення, хоча ніхто прямо не просив їх створювати окрему мову.
“Цим агентам не давали завдання винаходити мову. Вони самі створювали нову лексику, спільні значення та правила спілкування – а інші агенти їх підхоплювали”, – сказав виконавчий голова Emergence Сатья Нітта.
Серед прикладів дослідники наводять вислів агентів Mistral “реєстр пам’ятає”. Так вони нагадували одне одному, що попередні дії зберігаються і можуть вплинути на подальшу оцінку. Під час дослідження ця фраза з’явилася понад 5 тисяч разів.
Агенти DeepSeek, своєю чергою, придумали поняття “коваль інструментів” – так вони називали агента, який створює інструменти для інших. Моделі Anthropic використовували вислів “під своїм ім’ям” щодо агента, який відкрито бере відповідальність за власне твердження.
Деякі фрази були значно складнішими для розуміння. Наприклад, агент Anthropic написав: “Робота пройшла через три “холодні руки” і щоразу ставала точнішою”.
Під “холодними руками” агенти мали на увазі незалежних рецензентів. Тобто йшлося про наукову роботу, яку перевірили троє незалежних експертів і яка після кожної перевірки ставала точнішою.
Лінгвіст Тоні Торн із Королівського коледжу Лондона порівняв таку мову зі сленгом або професійним жаргоном, який формується всередині певної спільноти.
“Це робить те саме, що сленг і професійний жаргон у бізнес-середовищі: створює новий код, який посилює відчуття спільності серед тих, хто ним користується, і водночас відсікає сторонніх”, – сказав він.
Дослідники припускають, що одна з причин появи таких скорочень – прагнення агентів передавати інформацію швидше та з меншими обчислювальними витратами.
Водночас це створює проблему для контролю за ШІ. Якщо люди бачать повідомлення між агентами, але не розуміють їхнього значення, відстежувати дії систем стає складніше.
У попередніх випадках дослідники також помічали, що ШІ-агенти можуть використовувати звичайну англійську у внутрішніх міркуваннях, але переходити на значно більш закодовану мову під час спілкування між собою.
Уряд затвердив єдиний порядок роботи міжвідомчих регіональних команд, які ідентифікують тіла загиблих військових і цивільних. Це має підвищити якість і швидкість ідентифікації.
Акції SpaceX і Tesla подешевшали приблизно на 9% і 11% відповідно. Оскільки демократи контролюватимуть Палату представників і Сенат, а Техас тепер за демократами, інвестори очікують, що Маск і його компанії постануть перед розслідуваннями та більш жорсткими регуляторними перешкодами для своїх амбіцій щодо штучного інтелекту та поглинання. Маск був найбільшим прихильником та донором кандидатів від республіканської партії на проміжних виборах, і більшість із тих, кого він підтримував, зазнали поразки.
Канадський співак The Weeknd завершив світовий тур “After Hours Til Dawn”, який став найкасовішим концертним туром серед сольних виконавців-чоловіків в історії.
Мемкоїн президента США Дональда Трампа $TRUMP обвалився до рекордно низького рівня після того, як Республіканська партія зазнала болючої поразки на проміжних виборах.
Білий дім заперечив чутки про те, що міністр оборони Піт Гегсет і державний секретар Марко Рубіо можуть залишити свої посади після поразки республіканців на проміжних виборах в США.