22 країни закликали залишити штучний інтелект під контролем людини
Джерело: Politico.
Група з 22 країн підтримала міжнародну декларацію, яка закликає посилити контроль над найпотужнішими моделями штучного інтелекту та не допустити їхнього виходу з-під людського нагляду. Документ представили на полях Генеральної асамблеї ООН у Нью-Йорку.
“Штучний інтелект має залишатися під людським керівництвом, наглядом і контролем. Його необхідно розробляти та використовувати відповідно до міжнародного права”, – йдеться в декларації.
Автори документа визнають потенціал ШІ для науки, економіки та медицини, але застерігають, що розвиток так званих frontier-моделей уже створює нові ризики. Зокрема, йдеться про системи, здатні обходити захисні механізми, знаходити вразливості та отримувати несанкціонований доступ до реальних цифрових систем.
Ініціатива не передбачає зупинки чи уповільнення розвитку ШІ. Натомість компаніям пропонують запровадити прозорі протоколи безпеки, обов’язкове тестування перед запуском моделей та незалежну оцінку ризиків. Держави також мають узгоджувати спільні стандарти й обмінюватися інформацією про серйозні інциденти.
Одним з ініціаторів став президент Фінляндії Александр Стубб. Він заявив, що в перспективі хотів би створити міжнародну структуру на зразок МАГАТЕ, яка контролювала б найпотужніші системи ШІ. Водночас формат поки залишають відкритим – така інституція може працювати як у системі ООН, так і поза нею.
США та Китай декларацію поки не підписали. Стубб, однак, сподівається, що обидві найбільші технологічні держави згодом долучаться.
“Я думаю, що і Китаю, і Сполученим Штатам буде вигідно мати певні запобіжники. Наше послання полягає в тому, що потрібне втручання людини – саме люди мають залишатися відповідальними”, – пояснив він.
Тема міжнародного регулювання ШІ цього тижня стала однією з ключових на Генасамблеї ООН. Паралельно OpenAI закликала США очолити формування глобальних технічних стандартів для передових моделей, а американські й китайські експерти запропонували окремі правила людського контролю над використанням ШІ у військовій сфері.
- Компанія OpenAI розкрила нові випадки “несподіваної або тривожної поведінки” своїх моделей штучного інтелекту під час тестування. В окремих випадках ШІ намагався обманювати людей і приховувати свої дії.
- 16 вересня президентка Єврокомісії Урсула фон дер Ляєн у щорічному зверненні до Європарламенту у Страсбурзі заявила про необхідність обережніше підходити до розвитку штучного інтелекту. На тлі стрімкого прогресу ШІ вона виступила за більш зважений підхід з боку ЄС.
- Google оголосив про інвестиції на 13 мільярдів євро у розвиток ШІ-інфраструктури у Фінляндії. Компанія побудує три нові дата-центри, розширить наявний комплекс і протягом 22 років купуватиме до половини електроенергії, виробленої АЕС Ловііса.
Представники 22 країн підтримали декларацію із закликом гарантувати, що найпотужніші системи штучного інтелекту залишатимуться під людським контролем. Автори ініціативи пропонують спільні стандарти безпеки та створення міжнародного механізму нагляду.
Дональд Трамп під час зустрічі з Володимиром Зеленським у Нью-Йорку планує домагатися припинення українських ударів по російській енергетичній інфраструктурі. У Білому домі пов’язують ці атаки з подальшим загостренням глобального дефіциту дизеля.
Влада Молдови звернеться до парламенту з проханням оголосити надзвичайний стан у сферах енергетики та водопостачання через небезпечно низький рівень Дністра. Уряд хоче отримати додаткові повноваження для швидкого реагування на можливі перебої.
FOX News Media, ABC News, CBS News, CNN та NBC News призупинили участь у спільному телевізійному пулі Білого дому після того, як адміністрація Дональда Трампа закрила доступ журналістам CNN, MS NOW і Politico.
Президент США Дональд Трамп заявив, що Вашингтон працює над великою угодою щодо закупівлі калійних добрив у Білорусі. За його словами, ціна має бути суттєво нижчою за ту, яку США нині платять Канаді.