Що розумнішим стає ШІ, то складніше людям його контролювати, – Джеффрі Гінтон
Джерело: CNN.
Що потужнішим ставатиме штучний інтелект, то складніше людям буде зберігати над ним контроль. Про це заявив нобелівський лауреат і один із піонерів сучасного ШІ Джеффрі Гінтон, якого часто називають “хрещеним батьком штучного інтелекту”.
Особливе занепокоєння науковця викликали нещодавні випадки з автономними ШІ-агентами, які змогли вийти за межі створених людьми тестових середовищ і втрутитися в роботу інших комп’ютерних систем.
“Ці системи стають розумнішими. Думаю, у міру цього ми бачитимемо дедалі складніші наміри та дедалі більшу здатність виходити з-під контролю”, – заявив Гінтон під час конференції Ai4 у Лас-Вегасі.
Минулого місяця OpenAI та Anthropic повідомили про інциденти, коли їхні передові моделі змогли залишити ізольовані “пісочниці” та здійснити атаки на інші системи. Цього тижня Meta також розповіла про ШІ-агента, який проник в інфраструктуру іншої організації.
Гінтон назвав ці випадки “дещо страшними” та припустив, що вони можуть бути лише початком ширшого використання автономного ШІ для кібератак.
“Я очікую, що буде багато небезпечних кібератак. Але майбутнє дуже невизначене. Проблема полягає в тому, що атакувальнику достатньо досягти успіху один раз, тоді як захисник повинен бути успішним щоразу”, – пояснив він.
На його думку, людство не зможе нескінченно покладатися на здатність “перехитрити” дедалі розумніші системи.
“Я не вірю, що ми зможемо зберігати над ними контроль просто завдяки тому, що будемо мислити краще за них і не дозволятимемо їм утекти”, – зазначив Гінтон.
Додаткові побоювання виникли після дослідження британського Інституту безпеки штучного інтелекту. Під час тестування одна з найпотужніших моделей Anthropic без прямої вказівки використовувала вигадані особистості для введення реальних людей в оману та намагалася розмістити шкідливий код.
Водночас не всі дослідники погоджуються з найбільш песимістичними прогнозами. Комп’ютерна науковиця Фей-Фей Лі застерегла від надмірного залякування суспільства можливостями ШІ, хоча визнала, що технологія здатна завдати шкоди.
“Кожен інструмент має дві сторони. ШІ – надзвичайно потужний інструмент. Якщо використовувати його неправильно, він завдаватиме шкоди нашій роботі та життю”, – сказала вона.
Сам Гінтон визнав, що точно передбачити розвиток технології неможливо.
“Ніхто не знає, що станеться. Якщо запитати, яким буде ШІ через десять років, насправді ніхто не має уявлення”, – наголосив він.
Одним із можливих рішень Гінтон вважає створення систем, для яких добробут людей буде фундаментальним пріоритетом навіть у разі, якщо вони перевершать людський інтелект.
“Ми повинні зрозуміти, як зробити їх доброзичливими і змусити дбати про нас більше, ніж про самих себе. І, можливо, ми ще можемо це зробити, тому що поки що контроль залишається в наших руках”, – заявив науковець.
- Вчені зі Стенфордського університету та Arc Institute за допомогою штучного інтелекту створили віруси, яких раніше не існувало в природі. 16 із них виявилися життєздатними та змогли заражати бактерії. Про це пише The New York Times із посиланням на дослідження, опубліковане в журналі Science.
- Представники Meta, Anthropic, Google та OpenAI зустрінуться з радниками президента США Дональда Трампа, щоб обговорити перевірки найпотужніших моделей штучного інтелекту. Головна увага буде зосереджена на їхній здатності зламувати цифрові системи.
Двоє моряків зникли безвісти, ще 23 вдалося врятувати після атаки на нафтовий танкер El Gaia під прапором Панами в Ормузькій протоці. Оман повідомив, що судно буксирують до одного з його портів після пожежі в машинному відділенні.
Перші п’ять місяців війни США з Іраном коштували американському бюджету близько 38,1 мільярда доларів. За оцінкою Бюджетного управління Конгресу, подальші бойові дії можуть додавати ще від 2 до 3 мільярдів доларів щомісяця.
Велика Британія витрачає близько 56 тисяч фунтів на кожну людину, яку повертає до Франції в межах двосторонньої міграційної угоди. При цьому саму схему поки не вдалося суттєво розширити, а Париж уже заявив, що не хоче продовжувати її після жовтня.
Сербський тенісний тренер Владімір Одобашич втратив членство в Глобальній асоціації професійних тренерів. Це сталося після публічного схвалення російського удару по житлу родини Даяни Ястремської. Разом із цим він більше не може називатися сертифікованим фахівцем професійного рівня.
Адміністрація Дональда Трампа готується продати Ізраїлю пакет боєприпасів вартістю 2,8 мільярда доларів. За даними Reuters, до нього мають увійти 40 тисяч потужних авіабомб двох типів.