Що розумнішим стає ШІ, то складніше людям його контролювати, – Джеффрі Гінтон
Джерело: CNN.
Що потужнішим ставатиме штучний інтелект, то складніше людям буде зберігати над ним контроль. Про це заявив нобелівський лауреат і один із піонерів сучасного ШІ Джеффрі Гінтон, якого часто називають “хрещеним батьком штучного інтелекту”.
Особливе занепокоєння науковця викликали нещодавні випадки з автономними ШІ-агентами, які змогли вийти за межі створених людьми тестових середовищ і втрутитися в роботу інших комп’ютерних систем.
“Ці системи стають розумнішими. Думаю, у міру цього ми бачитимемо дедалі складніші наміри та дедалі більшу здатність виходити з-під контролю”, – заявив Гінтон під час конференції Ai4 у Лас-Вегасі.
Минулого місяця OpenAI та Anthropic повідомили про інциденти, коли їхні передові моделі змогли залишити ізольовані “пісочниці” та здійснити атаки на інші системи. Цього тижня Meta також розповіла про ШІ-агента, який проник в інфраструктуру іншої організації.
Гінтон назвав ці випадки “дещо страшними” та припустив, що вони можуть бути лише початком ширшого використання автономного ШІ для кібератак.
“Я очікую, що буде багато небезпечних кібератак. Але майбутнє дуже невизначене. Проблема полягає в тому, що атакувальнику достатньо досягти успіху один раз, тоді як захисник повинен бути успішним щоразу”, – пояснив він.
На його думку, людство не зможе нескінченно покладатися на здатність “перехитрити” дедалі розумніші системи.
“Я не вірю, що ми зможемо зберігати над ними контроль просто завдяки тому, що будемо мислити краще за них і не дозволятимемо їм утекти”, – зазначив Гінтон.
Додаткові побоювання виникли після дослідження британського Інституту безпеки штучного інтелекту. Під час тестування одна з найпотужніших моделей Anthropic без прямої вказівки використовувала вигадані особистості для введення реальних людей в оману та намагалася розмістити шкідливий код.
Водночас не всі дослідники погоджуються з найбільш песимістичними прогнозами. Комп’ютерна науковиця Фей-Фей Лі застерегла від надмірного залякування суспільства можливостями ШІ, хоча визнала, що технологія здатна завдати шкоди.
“Кожен інструмент має дві сторони. ШІ – надзвичайно потужний інструмент. Якщо використовувати його неправильно, він завдаватиме шкоди нашій роботі та життю”, – сказала вона.
Сам Гінтон визнав, що точно передбачити розвиток технології неможливо.
“Ніхто не знає, що станеться. Якщо запитати, яким буде ШІ через десять років, насправді ніхто не має уявлення”, – наголосив він.
Одним із можливих рішень Гінтон вважає створення систем, для яких добробут людей буде фундаментальним пріоритетом навіть у разі, якщо вони перевершать людський інтелект.
“Ми повинні зрозуміти, як зробити їх доброзичливими і змусити дбати про нас більше, ніж про самих себе. І, можливо, ми ще можемо це зробити, тому що поки що контроль залишається в наших руках”, – заявив науковець.
- Вчені зі Стенфордського університету та Arc Institute за допомогою штучного інтелекту створили віруси, яких раніше не існувало в природі. 16 із них виявилися життєздатними та змогли заражати бактерії. Про це пише The New York Times із посиланням на дослідження, опубліковане в журналі Science.
- Представники Meta, Anthropic, Google та OpenAI зустрінуться з радниками президента США Дональда Трампа, щоб обговорити перевірки найпотужніших моделей штучного інтелекту. Головна увага буде зосереджена на їхній здатності зламувати цифрові системи.
21 вересня троє військовослужбовців Південної Кореї зазнали поранень внаслідок вибуху у демілітаризованій зоні (DMZ) на кордоні з КНДР.
У каліфорнійському Палмдейлі відкрили житловий комплекс Together California для дітей, які перебувають у системі опіки. Одним з ініціаторів проєкту став актор Крістіан Бейл.
На Донеччині затримали ще одного агента російської воєнної розвідки. Зловмисник наводив керовані авіабомби та ударні дрони рашистів на Слов’янському напрямку.
Син Анджеліни Джолі та Бреда Пітта Меддокс офіційно відмовився від прізвища батька. Суд у Лос-Анджелесі дозволив 25-річному чоловікові змінити ім’я з Меддокса Чівана Джолі-Пітта на Меддокса Чівана Джолі.
У Румунії прокурори Управління з розслідування організованої злочинності та тероризму (DIICOT) провели обшуки в будинку колишнього кандидата в президенти Келіна Джорджеску. Його також мають допитати у справі про створення організованої злочинної групи та шахрайство, збитки від якого перевищують 1,1 млн євро.