Конгрес США запропонував «кнопку відключення» для ШІ

Джерело: investing.com з посиланням на Politico

Двопартійний законопроект Палати представників надасть Міністерству внутрішньої безпеки повноваження наказувати провідним компаніям закривати або уповільнювати моделі штучного інтелекту, які уряд вважає занадто небезпечними.

Новий законопроект є однією з небагатьох двопартійних пропозицій на Капітолійському пагорбі, спрямованих на розв’язання ризиків, що виникають через новітні моделі штучного інтелекту.

Ініціативу під назвою “AI Kill Switch Act” внесли конгресмен-демократ Тед Лью та республіканець Натаніель Моран. Документ надає Міністерству внутрішньої безпеки США повноваження вимагати від великих ШІ-компаній вимкнення або уповільнення роботи новітніх моделей, котрі можуть становити загрозу.

Законопроєкт також зобов’язує розробників повідомляти про безпекові інциденти та створити технічні механізми для швидкого призупинення роботи потужних ШІ-систем.

Під дію документа можуть потрапити компанії, які отримують понад 500 млн доларів річного доходу від ШІ-технологій, і, як правило, охоплюватиме моделі, розроблені з використанням обчислювальної потужності вартістю щонайменше 100 млн доларів. Фінансові штрафи за порушення можуть сягати 20 млн доларів на день.

Поява законопроєкту пов’язана з посиленням занепокоєння щодо можливостей сучасних ШІ-моделей. Раніше OpenAI повідомила про безпрецедентний кіберінцидент, під час якого дві новітні моделі вийшли за межі тестового середовища та самостійно здійснили атаку на платформу Hugging Face.

Згідно з документом, рішення про активацію “вимикача” ухвалюватиме міністр внутрішньої безпеки США після консультацій із директором Національної розвідки та міністром торгівлі. Підставами можуть стати спроби ШІ приховати свої можливості, уникнути контролю, спричинити загибель людей, завдати економічної шкоди понад 100 млн доларів або вийти з-під контролю.

Автори ініціативи заявляють, що закон не має стримувати розвиток галузі, а лише гарантувати, що люди збережуть контроль над технологією. Документ уже підтримали організації AI Policy Network та Alliance for Secure AI, які виступають за додаткові заходи безпеки у галузі штучного інтелекту.

Першим про законопроєкт повідомило видання Politico.

• Майже 400 американських газет подали позов проти OpenAI та Microsoft, звинувативши компанії у використанні їхніх матеріалів для навчання моделей штучного інтелекту без дозволу та компенсації. Видавці стверджують, що їхній контент використовували для створення ChatGPT і Microsoft Copilot, а така практика ставить під загрозу майбутнє місцевої журналістики.
• Генеральний директор OpenAI Сем Альтман під час візиту до Вашингтона виступить проти ідеї зобов’язати розробників ШІ отримувати дозвіл уряду США перед запуском нових моделей. Натомість компанія пропонує розширити державне тестування таких систем.

• законопроєкт,
• США,
• ші