Що розумнішим стає ШІ, то складніше людям його контролювати, – Джеффрі Гінтон
Джерело: CNN.
Що потужнішим ставатиме штучний інтелект, то складніше людям буде зберігати над ним контроль. Про це заявив нобелівський лауреат і один із піонерів сучасного ШІ Джеффрі Гінтон, якого часто називають “хрещеним батьком штучного інтелекту”.
Особливе занепокоєння науковця викликали нещодавні випадки з автономними ШІ-агентами, які змогли вийти за межі створених людьми тестових середовищ і втрутитися в роботу інших комп’ютерних систем.
“Ці системи стають розумнішими. Думаю, у міру цього ми бачитимемо дедалі складніші наміри та дедалі більшу здатність виходити з-під контролю”, – заявив Гінтон під час конференції Ai4 у Лас-Вегасі.
Минулого місяця OpenAI та Anthropic повідомили про інциденти, коли їхні передові моделі змогли залишити ізольовані “пісочниці” та здійснити атаки на інші системи. Цього тижня Meta також розповіла про ШІ-агента, який проник в інфраструктуру іншої організації.
Гінтон назвав ці випадки “дещо страшними” та припустив, що вони можуть бути лише початком ширшого використання автономного ШІ для кібератак.
“Я очікую, що буде багато небезпечних кібератак. Але майбутнє дуже невизначене. Проблема полягає в тому, що атакувальнику достатньо досягти успіху один раз, тоді як захисник повинен бути успішним щоразу”, – пояснив він.
На його думку, людство не зможе нескінченно покладатися на здатність “перехитрити” дедалі розумніші системи.
“Я не вірю, що ми зможемо зберігати над ними контроль просто завдяки тому, що будемо мислити краще за них і не дозволятимемо їм утекти”, – зазначив Гінтон.
Додаткові побоювання виникли після дослідження британського Інституту безпеки штучного інтелекту. Під час тестування одна з найпотужніших моделей Anthropic без прямої вказівки використовувала вигадані особистості для введення реальних людей в оману та намагалася розмістити шкідливий код.
Водночас не всі дослідники погоджуються з найбільш песимістичними прогнозами. Комп’ютерна науковиця Фей-Фей Лі застерегла від надмірного залякування суспільства можливостями ШІ, хоча визнала, що технологія здатна завдати шкоди.
“Кожен інструмент має дві сторони. ШІ – надзвичайно потужний інструмент. Якщо використовувати його неправильно, він завдаватиме шкоди нашій роботі та життю”, – сказала вона.
Сам Гінтон визнав, що точно передбачити розвиток технології неможливо.
“Ніхто не знає, що станеться. Якщо запитати, яким буде ШІ через десять років, насправді ніхто не має уявлення”, – наголосив він.
Одним із можливих рішень Гінтон вважає створення систем, для яких добробут людей буде фундаментальним пріоритетом навіть у разі, якщо вони перевершать людський інтелект.
“Ми повинні зрозуміти, як зробити їх доброзичливими і змусити дбати про нас більше, ніж про самих себе. І, можливо, ми ще можемо це зробити, тому що поки що контроль залишається в наших руках”, – заявив науковець.
- Вчені зі Стенфордського університету та Arc Institute за допомогою штучного інтелекту створили віруси, яких раніше не існувало в природі. 16 із них виявилися життєздатними та змогли заражати бактерії. Про це пише The New York Times із посиланням на дослідження, опубліковане в журналі Science.
- Представники Meta, Anthropic, Google та OpenAI зустрінуться з радниками президента США Дональда Трампа, щоб обговорити перевірки найпотужніших моделей штучного інтелекту. Головна увага буде зосереджена на їхній здатності зламувати цифрові системи.
Ізраїльські військові обмежили доступ до палестинського села Тайбе на Західному березі після серії нападів з боку ізраїльських поселенців. Заборона стосується лише ізраїльтян, які не проживають у селі, і не поширюється на палестинців.
Прокуратура Еквадору висунула обвинувачення колишньому міністру внутрішніх справ Хосе Серрано та ще шістьом людям у справі про вбивство кандидата в президенти Фернандо Вільявісенсіо у 2023 році. Серед фігурантів також є керівник одного з найвпливовіших наркокартелів країни Los Lobos.
Центральний банк Угорщини підтвердив підтримку урядового курсу на виконання умов для вступу країни до єврозони. Кабінет прем’єр-міністра Петера Мадяра хоче досягти необхідних показників до завершення своєї каденції у 2030 році.
Росія збільшила військові постачання малійській хунті після погіршення ситуації для збройних сил Малі та російського “Африканського корпусу” у центральних і північних районах країни.
Іспанія розпочала прикордонні перевірки пасажирів, які прибувають з Італії повітряним і морським транспортом. У перший день контроль пройшли 199 людей на 12 авіарейсах до шести найбільших аеропортів країни.