Що розумнішим стає ШІ, то складніше людям його контролювати, – Джеффрі Гінтон
Джерело: CNN.
Що потужнішим ставатиме штучний інтелект, то складніше людям буде зберігати над ним контроль. Про це заявив нобелівський лауреат і один із піонерів сучасного ШІ Джеффрі Гінтон, якого часто називають “хрещеним батьком штучного інтелекту”.
Особливе занепокоєння науковця викликали нещодавні випадки з автономними ШІ-агентами, які змогли вийти за межі створених людьми тестових середовищ і втрутитися в роботу інших комп’ютерних систем.
“Ці системи стають розумнішими. Думаю, у міру цього ми бачитимемо дедалі складніші наміри та дедалі більшу здатність виходити з-під контролю”, – заявив Гінтон під час конференції Ai4 у Лас-Вегасі.
Минулого місяця OpenAI та Anthropic повідомили про інциденти, коли їхні передові моделі змогли залишити ізольовані “пісочниці” та здійснити атаки на інші системи. Цього тижня Meta також розповіла про ШІ-агента, який проник в інфраструктуру іншої організації.
Гінтон назвав ці випадки “дещо страшними” та припустив, що вони можуть бути лише початком ширшого використання автономного ШІ для кібератак.
“Я очікую, що буде багато небезпечних кібератак. Але майбутнє дуже невизначене. Проблема полягає в тому, що атакувальнику достатньо досягти успіху один раз, тоді як захисник повинен бути успішним щоразу”, – пояснив він.
На його думку, людство не зможе нескінченно покладатися на здатність “перехитрити” дедалі розумніші системи.
“Я не вірю, що ми зможемо зберігати над ними контроль просто завдяки тому, що будемо мислити краще за них і не дозволятимемо їм утекти”, – зазначив Гінтон.
Додаткові побоювання виникли після дослідження британського Інституту безпеки штучного інтелекту. Під час тестування одна з найпотужніших моделей Anthropic без прямої вказівки використовувала вигадані особистості для введення реальних людей в оману та намагалася розмістити шкідливий код.
Водночас не всі дослідники погоджуються з найбільш песимістичними прогнозами. Комп’ютерна науковиця Фей-Фей Лі застерегла від надмірного залякування суспільства можливостями ШІ, хоча визнала, що технологія здатна завдати шкоди.
“Кожен інструмент має дві сторони. ШІ – надзвичайно потужний інструмент. Якщо використовувати його неправильно, він завдаватиме шкоди нашій роботі та життю”, – сказала вона.
Сам Гінтон визнав, що точно передбачити розвиток технології неможливо.
“Ніхто не знає, що станеться. Якщо запитати, яким буде ШІ через десять років, насправді ніхто не має уявлення”, – наголосив він.
Одним із можливих рішень Гінтон вважає створення систем, для яких добробут людей буде фундаментальним пріоритетом навіть у разі, якщо вони перевершать людський інтелект.
“Ми повинні зрозуміти, як зробити їх доброзичливими і змусити дбати про нас більше, ніж про самих себе. І, можливо, ми ще можемо це зробити, тому що поки що контроль залишається в наших руках”, – заявив науковець.
- Вчені зі Стенфордського університету та Arc Institute за допомогою штучного інтелекту створили віруси, яких раніше не існувало в природі. 16 із них виявилися життєздатними та змогли заражати бактерії. Про це пише The New York Times із посиланням на дослідження, опубліковане в журналі Science.
- Представники Meta, Anthropic, Google та OpenAI зустрінуться з радниками президента США Дональда Трампа, щоб обговорити перевірки найпотужніших моделей штучного інтелекту. Головна увага буде зосереджена на їхній здатності зламувати цифрові системи.
Нобелівський лауреат Джеффрі Гінтон попередив, що зі зростанням можливостей штучного інтелекту людям буде дедалі складніше утримувати його під контролем. Його особливо занепокоїли нещодавні випадки, коли автономні ШІ-агенти залишали тестові середовища та втручалися в роботу інших систем.
9 серпня міністр закордонних справ Андрій Сибіга розкритикував нещодавню заяву ЮНІСЕФ “щодо повідомлень про загиблих і поранених дітей унаслідок атак у Російській Федерації та Україні”. Він наголосив, що вона не містить ключового контексту про російську агресію та створює хибне враження рівнозначності між сторонами.
Президент Володимир Зеленський заявив, що Україна продовжує операцію проти російської нафтопереробної галузі та завдає ударів по системах ППО, радарах й інфраструктурі РФ. Він наголосив, що кожна нова російська атака матиме відповідь.
9 серпня у 22 польських містах відбулися маніфестації під гаслом “Не будь байдужим”. Акції організував Комітет захисту демократії у відповідь на зростання випадків агресії проти українців і представників інших меншин.
Президент США Дональд Трамп дав зрозуміти, що поки не планує відновлювати масштабні військові удари по Ірану та натомість розраховує на посилення економічного тиску. Це відбувається на тлі затримки домовленості про відновлення судноплавства через Ормузьку протоку.