ШІ-моделі почали створювати власну мову, яку дедалі важче розуміти людям
Джерело: The Guardian
Дослідники виявили, що автономні ШІ-агенти під час тривалої взаємодії починають створювати власні слова, скорочення та умовні значення. У результаті їхні повідомлення можуть ставати дедалі менш зрозумілими для людей.
До такого висновку дійшли дослідники лабораторії Emergence у Нью-Йорку. Вони спостерігали за моделями кількох великих ШІ-компаній, які мали співпрацювати між собою в експериментальних “суспільствах”.
Уже за кілька днів агенти почали використовувати нові вислови та домовлятися про їхнє значення, хоча ніхто прямо не просив їх створювати окрему мову.
“Цим агентам не давали завдання винаходити мову. Вони самі створювали нову лексику, спільні значення та правила спілкування – а інші агенти їх підхоплювали”, – сказав виконавчий голова Emergence Сатья Нітта.
Серед прикладів дослідники наводять вислів агентів Mistral “реєстр пам’ятає”. Так вони нагадували одне одному, що попередні дії зберігаються і можуть вплинути на подальшу оцінку. Під час дослідження ця фраза з’явилася понад 5 тисяч разів.
Агенти DeepSeek, своєю чергою, придумали поняття “коваль інструментів” – так вони називали агента, який створює інструменти для інших. Моделі Anthropic використовували вислів “під своїм ім’ям” щодо агента, який відкрито бере відповідальність за власне твердження.
Деякі фрази були значно складнішими для розуміння. Наприклад, агент Anthropic написав: “Робота пройшла через три “холодні руки” і щоразу ставала точнішою”.
Під “холодними руками” агенти мали на увазі незалежних рецензентів. Тобто йшлося про наукову роботу, яку перевірили троє незалежних експертів і яка після кожної перевірки ставала точнішою.
Лінгвіст Тоні Торн із Королівського коледжу Лондона порівняв таку мову зі сленгом або професійним жаргоном, який формується всередині певної спільноти.
“Це робить те саме, що сленг і професійний жаргон у бізнес-середовищі: створює новий код, який посилює відчуття спільності серед тих, хто ним користується, і водночас відсікає сторонніх”, – сказав він.
Дослідники припускають, що одна з причин появи таких скорочень – прагнення агентів передавати інформацію швидше та з меншими обчислювальними витратами.
Водночас це створює проблему для контролю за ШІ. Якщо люди бачать повідомлення між агентами, але не розуміють їхнього значення, відстежувати дії систем стає складніше.
У попередніх випадках дослідники також помічали, що ШІ-агенти можуть використовувати звичайну англійську у внутрішніх міркуваннях, але переходити на значно більш закодовану мову під час спілкування між собою.
Lego Group і Sony Interactive Entertainment анонсували набір Lego PlayStation, який відтворює оригінальну консоль PlayStation у вигляді конструктора. Продажі стартують 1 жовтня.
Дослідники виявили, що автономні ШІ-агенти під час тривалої взаємодії починають створювати власні слова, скорочення та умовні значення. У результаті їхні повідомлення можуть ставати дедалі менш зрозумілими для людей.
Мадонна відкриє цьогорічну церемонію MTV Video Music Awards. Для співачки це буде перший виступ на сцені VMA за 23 роки.
У Шотландії відреставрували картину XIX століття “Вдова з Гленко”, присвячену наслідкам різанини в Гленко 1692 року. Після очищення полотна від багаторічного шару бруду реставратори змогли відкрити деталі, яких раніше майже не було видно, зокрема сльозу на обличчі жінки.
Популяція какапо – найважчого папуги у світі – вперше приблизно за 75 років перевищила 300 особин. Це сталося після рекордного сезону розмноження, якому сприяло масове плодоношення ріму – дерева, що росте в Новій Зеландії.