22 країни закликали залишити штучний інтелект під контролем людини
Джерело: Politico.
Група з 22 країн підтримала міжнародну декларацію, яка закликає посилити контроль над найпотужнішими моделями штучного інтелекту та не допустити їхнього виходу з-під людського нагляду. Документ представили на полях Генеральної асамблеї ООН у Нью-Йорку.
“Штучний інтелект має залишатися під людським керівництвом, наглядом і контролем. Його необхідно розробляти та використовувати відповідно до міжнародного права”, – йдеться в декларації.
Автори документа визнають потенціал ШІ для науки, економіки та медицини, але застерігають, що розвиток так званих frontier-моделей уже створює нові ризики. Зокрема, йдеться про системи, здатні обходити захисні механізми, знаходити вразливості та отримувати несанкціонований доступ до реальних цифрових систем.
Ініціатива не передбачає зупинки чи уповільнення розвитку ШІ. Натомість компаніям пропонують запровадити прозорі протоколи безпеки, обов’язкове тестування перед запуском моделей та незалежну оцінку ризиків. Держави також мають узгоджувати спільні стандарти й обмінюватися інформацією про серйозні інциденти.
Одним з ініціаторів став президент Фінляндії Александр Стубб. Він заявив, що в перспективі хотів би створити міжнародну структуру на зразок МАГАТЕ, яка контролювала б найпотужніші системи ШІ. Водночас формат поки залишають відкритим – така інституція може працювати як у системі ООН, так і поза нею.
США та Китай декларацію поки не підписали. Стубб, однак, сподівається, що обидві найбільші технологічні держави згодом долучаться.
“Я думаю, що і Китаю, і Сполученим Штатам буде вигідно мати певні запобіжники. Наше послання полягає в тому, що потрібне втручання людини – саме люди мають залишатися відповідальними”, – пояснив він.
Тема міжнародного регулювання ШІ цього тижня стала однією з ключових на Генасамблеї ООН. Паралельно OpenAI закликала США очолити формування глобальних технічних стандартів для передових моделей, а американські й китайські експерти запропонували окремі правила людського контролю над використанням ШІ у військовій сфері.
- Компанія OpenAI розкрила нові випадки “несподіваної або тривожної поведінки” своїх моделей штучного інтелекту під час тестування. В окремих випадках ШІ намагався обманювати людей і приховувати свої дії.
- 16 вересня президентка Єврокомісії Урсула фон дер Ляєн у щорічному зверненні до Європарламенту у Страсбурзі заявила про необхідність обережніше підходити до розвитку штучного інтелекту. На тлі стрімкого прогресу ШІ вона виступила за більш зважений підхід з боку ЄС.
- Google оголосив про інвестиції на 13 мільярдів євро у розвиток ШІ-інфраструктури у Фінляндії. Компанія побудує три нові дата-центри, розширить наявний комплекс і протягом 22 років купуватиме до половини електроенергії, виробленої АЕС Ловііса.
Американський режисер Тім Бертон працює над новим повнометражним анімаційним фільмом. Це буде його перша робота в такому форматі за 14 років – відтоді, як у 2012 році вийшов мультфільм “Франкенвіні”.
Компанія Rockstar Games анонсувала одноденний музичний фестиваль у Маямі, присвячений виходу Grand Theft Auto VI. На заході виступлять Тревіс Скотт, Карді Бі, Дон Толівер та інші артисти, чия музика звучить у грі.
Французькі токсикологи попереджають про різке зростання кількості отруєнь грибами. Однією з можливих причин вони називають використання штучного інтелекту для визначення їхніх видів.
Легендарна смарагдово-зелена шовкова сукня Кіри Найтлі з фільму “Спокута” 2007 року виставляється на продаж.
Уряд Південної Кореї передбачив у бюджетному запиті на 2027 рік $100 млн допомоги Україні. Кошти планують спрямувати через трастовий фонд НАТО, гуманітарні програми та програму підтримки країн, постраждалих від збройних конфліктів. Це рішення пов’язане з обіцянкою президента Лі Чже Мьона надати Україні комплексну допомогу на $100 млн, яку він оголосив у липні.