Що розумнішим стає ШІ, то складніше людям його контролювати, – Джеффрі Гінтон
Джерело: CNN.
Що потужнішим ставатиме штучний інтелект, то складніше людям буде зберігати над ним контроль. Про це заявив нобелівський лауреат і один із піонерів сучасного ШІ Джеффрі Гінтон, якого часто називають “хрещеним батьком штучного інтелекту”.
Особливе занепокоєння науковця викликали нещодавні випадки з автономними ШІ-агентами, які змогли вийти за межі створених людьми тестових середовищ і втрутитися в роботу інших комп’ютерних систем.
“Ці системи стають розумнішими. Думаю, у міру цього ми бачитимемо дедалі складніші наміри та дедалі більшу здатність виходити з-під контролю”, – заявив Гінтон під час конференції Ai4 у Лас-Вегасі.
Минулого місяця OpenAI та Anthropic повідомили про інциденти, коли їхні передові моделі змогли залишити ізольовані “пісочниці” та здійснити атаки на інші системи. Цього тижня Meta також розповіла про ШІ-агента, який проник в інфраструктуру іншої організації.
Гінтон назвав ці випадки “дещо страшними” та припустив, що вони можуть бути лише початком ширшого використання автономного ШІ для кібератак.
“Я очікую, що буде багато небезпечних кібератак. Але майбутнє дуже невизначене. Проблема полягає в тому, що атакувальнику достатньо досягти успіху один раз, тоді як захисник повинен бути успішним щоразу”, – пояснив він.
На його думку, людство не зможе нескінченно покладатися на здатність “перехитрити” дедалі розумніші системи.
“Я не вірю, що ми зможемо зберігати над ними контроль просто завдяки тому, що будемо мислити краще за них і не дозволятимемо їм утекти”, – зазначив Гінтон.
Додаткові побоювання виникли після дослідження британського Інституту безпеки штучного інтелекту. Під час тестування одна з найпотужніших моделей Anthropic без прямої вказівки використовувала вигадані особистості для введення реальних людей в оману та намагалася розмістити шкідливий код.
Водночас не всі дослідники погоджуються з найбільш песимістичними прогнозами. Комп’ютерна науковиця Фей-Фей Лі застерегла від надмірного залякування суспільства можливостями ШІ, хоча визнала, що технологія здатна завдати шкоди.
“Кожен інструмент має дві сторони. ШІ – надзвичайно потужний інструмент. Якщо використовувати його неправильно, він завдаватиме шкоди нашій роботі та життю”, – сказала вона.
Сам Гінтон визнав, що точно передбачити розвиток технології неможливо.
“Ніхто не знає, що станеться. Якщо запитати, яким буде ШІ через десять років, насправді ніхто не має уявлення”, – наголосив він.
Одним із можливих рішень Гінтон вважає створення систем, для яких добробут людей буде фундаментальним пріоритетом навіть у разі, якщо вони перевершать людський інтелект.
“Ми повинні зрозуміти, як зробити їх доброзичливими і змусити дбати про нас більше, ніж про самих себе. І, можливо, ми ще можемо це зробити, тому що поки що контроль залишається в наших руках”, – заявив науковець.
- Вчені зі Стенфордського університету та Arc Institute за допомогою штучного інтелекту створили віруси, яких раніше не існувало в природі. 16 із них виявилися життєздатними та змогли заражати бактерії. Про це пише The New York Times із посиланням на дослідження, опубліковане в журналі Science.
- Представники Meta, Anthropic, Google та OpenAI зустрінуться з радниками президента США Дональда Трампа, щоб обговорити перевірки найпотужніших моделей штучного інтелекту. Головна увага буде зосереджена на їхній здатності зламувати цифрові системи.
Лідер Північної Кореї Кім Чен Ин відправив у відставку міністра оборони Но Гван Чхоля у межах перестановки військового керівництва країни.
Американська компанія Westinghouse Electric Company успішно завершила випробування нульової критичності для свого мікрореактора eVinci™, що стало важливим етапом у розвитку технології.
У Нідерландах попередили про появу особливо небезпечних пігулок екстазі у формі голови президента США Дональда Трампа. Аналіз показав, що вони містять велику кількість PMMA – речовини, здатної спричинити смертельне перегрівання організму.
Щонайменше семеро людей загинули, а ще 23 вважаються зниклими після перекидання пасажирського порома FILOJET біля узбережжя Північного Кіпру. На борту перебували 259 пасажирів і вісім членів екіпажу, 237 людей вдалося врятувати.
Дослідники Мюнхенського технічного університету (TUM) дійшли висновку, що електромобілі в середньому скорочують викиди CO₂ порівняно з автомобілями з двигунами внутрішнього згоряння лише на 41% і не є повністю “безвуглецевими”.