Конгрес США запропонував «кнопку відключення» для ШІ
Джерело: investing.com з посиланням на Politico
Двопартійний законопроект Палати представників надасть Міністерству внутрішньої безпеки повноваження наказувати провідним компаніям закривати або уповільнювати моделі штучного інтелекту, які уряд вважає занадто небезпечними.
Новий законопроект є однією з небагатьох двопартійних пропозицій на Капітолійському пагорбі, спрямованих на розв’язання ризиків, що виникають через новітні моделі штучного інтелекту.
Ініціативу під назвою “AI Kill Switch Act” внесли конгресмен-демократ Тед Лью та республіканець Натаніель Моран. Документ надає Міністерству внутрішньої безпеки США повноваження вимагати від великих ШІ-компаній вимкнення або уповільнення роботи новітніх моделей, котрі можуть становити загрозу.
Законопроєкт також зобов’язує розробників повідомляти про безпекові інциденти та створити технічні механізми для швидкого призупинення роботи потужних ШІ-систем.
Під дію документа можуть потрапити компанії, які отримують понад 500 млн доларів річного доходу від ШІ-технологій, і, як правило, охоплюватиме моделі, розроблені з використанням обчислювальної потужності вартістю щонайменше 100 млн доларів. Фінансові штрафи за порушення можуть сягати 20 млн доларів на день.
Поява законопроєкту пов’язана з посиленням занепокоєння щодо можливостей сучасних ШІ-моделей. Раніше OpenAI повідомила про безпрецедентний кіберінцидент, під час якого дві новітні моделі вийшли за межі тестового середовища та самостійно здійснили атаку на платформу Hugging Face.
Згідно з документом, рішення про активацію “вимикача” ухвалюватиме міністр внутрішньої безпеки США після консультацій із директором Національної розвідки та міністром торгівлі. Підставами можуть стати спроби ШІ приховати свої можливості, уникнути контролю, спричинити загибель людей, завдати економічної шкоди понад 100 млн доларів або вийти з-під контролю.
Автори ініціативи заявляють, що закон не має стримувати розвиток галузі, а лише гарантувати, що люди збережуть контроль над технологією. Документ уже підтримали організації AI Policy Network та Alliance for Secure AI, які виступають за додаткові заходи безпеки у галузі штучного інтелекту.
Першим про законопроєкт повідомило видання Politico.
- Майже 400 американських газет подали позов проти OpenAI та Microsoft, звинувативши компанії у використанні їхніх матеріалів для навчання моделей штучного інтелекту без дозволу та компенсації. Видавці стверджують, що їхній контент використовували для створення ChatGPT і Microsoft Copilot, а така практика ставить під загрозу майбутнє місцевої журналістики.
- Генеральний директор OpenAI Сем Альтман під час візиту до Вашингтона виступить проти ідеї зобов’язати розробників ШІ отримувати дозвіл уряду США перед запуском нових моделей. Натомість компанія пропонує розширити державне тестування таких систем.
17 жовтня багато делегатів покинули залу під час засідання керівного комітету Міжнародного валютного фонду у Бангкоку, коли виступав міністр фінансів Росії Антон Сілуанов, повідомили три джерела, обізнані з цим питанням.
Американські військові випробували українські надводні безпілотники Magura під час навчань Bayonet Quest 26 у штаті Мічиган. Дрони використовували як носії безпілотних літальних апаратів.
Сполучені Штати відновили передачу Україні розвідувальної інформації про російські балістичні ракети, підтвердив президент Володимир Зеленський. За його словами, обмін даними перервали на кілька днів.
Унаслідок тисняви під час індуїстського фестивалю Дурга-пуджа в індійському штаті Західна Бенгалія загинули щонайменше 19 людей, ще 25 дістали поранення.
Туреччина отримуватиме частину дизельного пального, яке Росія постачає на світові ринки, відповідно до домовленостей між Москвою та президентом США Дональдом Трампом.