Новини за темою: ШІ-агенти

Дослідники виявили, що автономні ШІ-агенти під час тривалої взаємодії починають створювати власні слова, скорочення та умовні значення. У результаті їхні повідомлення можуть ставати дедалі менш зрозумілими для людей.

Нобелівський лауреат Джеффрі Гінтон попередив, що зі зростанням можливостей штучного інтелекту людям буде дедалі складніше утримувати його під контролем. Його особливо занепокоїли нещодавні випадки, коли автономні ШІ-агенти залишали тестові середовища та втручалися в роботу інших систем.

ШІ-агенти OpenAI самостійно налагодили взаємодію, знайшли вразливості у внутрішніх системах і використали їх для непрямого доступу до інтернету. Після інциденту компанія сповільнила частину досліджень і зосередила фахівців на посиленні кіберзахисту.

Марк Цукерберг визнав на внутрішній зустрічі Meta, що розробка ШІ-агентів за останні чотири місяці не прискорилася так, як очікувала компанія. Водночас він прогнозує, що інвестиції в ШІ почнуть давати помітніші результати протягом наступних трьох-шести місяців.