22 країни закликали залишити штучний інтелект під контролем людини

Джерело: Politico.

Група з 22 країн підтримала міжнародну декларацію, яка закликає посилити контроль над найпотужнішими моделями штучного інтелекту та не допустити їхнього виходу з-під людського нагляду. Документ представили на полях Генеральної асамблеї ООН у Нью-Йорку.

“Штучний інтелект має залишатися під людським керівництвом, наглядом і контролем. Його необхідно розробляти та використовувати відповідно до міжнародного права”, – йдеться в декларації.

Автори документа визнають потенціал ШІ для науки, економіки та медицини, але застерігають, що розвиток так званих frontier-моделей уже створює нові ризики. Зокрема, йдеться про системи, здатні обходити захисні механізми, знаходити вразливості та отримувати несанкціонований доступ до реальних цифрових систем.

Ініціатива не передбачає зупинки чи уповільнення розвитку ШІ. Натомість компаніям пропонують запровадити прозорі протоколи безпеки, обов’язкове тестування перед запуском моделей та незалежну оцінку ризиків. Держави також мають узгоджувати спільні стандарти й обмінюватися інформацією про серйозні інциденти.

Одним з ініціаторів став президент Фінляндії Александр Стубб. Він заявив, що в перспективі хотів би створити міжнародну структуру на зразок МАГАТЕ, яка контролювала б найпотужніші системи ШІ. Водночас формат поки залишають відкритим – така інституція може працювати як у системі ООН, так і поза нею.

США та Китай декларацію поки не підписали. Стубб, однак, сподівається, що обидві найбільші технологічні держави згодом долучаться.

“Я думаю, що і Китаю, і Сполученим Штатам буде вигідно мати певні запобіжники. Наше послання полягає в тому, що потрібне втручання людини – саме люди мають залишатися відповідальними”, – пояснив він.

Тема міжнародного регулювання ШІ цього тижня стала однією з ключових на Генасамблеї ООН. Паралельно OpenAI закликала США очолити формування глобальних технічних стандартів для передових моделей, а американські й китайські експерти запропонували окремі правила людського контролю над використанням ШІ у військовій сфері.

Компанія OpenAI розкрила нові випадки “несподіваної або тривожної поведінки” своїх моделей штучного інтелекту під час тестування. В окремих випадках ШІ намагався обманювати людей і приховувати свої дії.
16 вересня президентка Єврокомісії Урсула фон дер Ляєн у щорічному зверненні до Європарламенту у Страсбурзі заявила про необхідність обережніше підходити до розвитку штучного інтелекту. На тлі стрімкого прогресу ШІ вона виступила за більш зважений підхід з боку ЄС.
Google оголосив про інвестиції на 13 мільярдів євро у розвиток ШІ-інфраструктури у Фінляндії. Компанія побудує три нові дата-центри, розширить наявний комплекс і протягом 22 років купуватиме до половини електроенергії, виробленої АЕС Ловііса.