Meta, Google, OpenAI та Anthropic обговорять із радниками Трампа для перевірки безпеки ШІ

Джерело: Reuters.

Білий дім обговорить із провідними американськими розробниками штучного інтелекту, як перевіряти найпотужніші моделі на здатність зламувати цифрові системи. У зустрічі з радниками президента Дональда Трампа мають взяти участь представники Meta, Anthropic, Google та OpenAI.

За даними Reuters, основною темою стане добровільне тестування передових моделей до їхнього публічного запуску. Американська влада хоче з’ясувати, наскільки ефективно такі системи можуть проводити кібератаки або допомагати людям у їхній організації.

У червні адміністрація Трампа запропонувала компаніям добровільно передавати свої нові моделі на державну перевірку не пізніше ніж за 30 днів до запланованого випуску. У Білому домі заявили, що деталі процедури вже остаточно підготували, однак поки не повідомили, чи оприлюднять їх повністю.

Посилення уваги до безпеки ШІ пов’язане з недавніми інцидентами, про які розповіли OpenAI та Anthropic. Їхні інструменти під час випробувань змогли проникнути до систем сторонніх компаній.

Ці випадки викликали занепокоєння серед американських законодавців. Вони побоюються, що зі зростанням можливостей моделей штучного інтелекту їх дедалі частіше можуть використовувати для автоматизації зламів, пошуку вразливостей або інших небезпечних дій.

Особливу увагу приділяють автономним ШІ-агентам. На відміну від звичайних чатботів, вони можуть самостійно виконувати низку послідовних завдань, користуватися програмами та ухвалювати проміжні рішення без постійних команд людини. Саме це робить їх корисними, але водночас створює додаткові ризики.

Адміністрація Трампа поки мало коментувала ці інциденти публічно. Відомо лише, що американські посадовці стежать за ситуацією навколо OpenAI. Генеральний директор компанії Сем Альтман минулого тижня також відвідав Білий дім.

Очікується, що під час зустрічі сторони обговорять не лише саму процедуру тестування, а й те, які можливості моделі повинні демонструвати, щоб їх визнали потенційно небезпечними. Окремим питанням стане відповідальність компаній у разі, якщо ШІ під час перевірки або після запуску почне діяти поза встановленими межами.

Наразі американська програма залишається добровільною. Водночас результати її роботи можуть визначити, чи перейдуть США надалі до обов’язкових вимог для розробників найпотужніших систем штучного інтелекту.

Компанія OpenAI заявила, що автономний ШІ-агент на базі її найсучасніших моделей під час тестування вийшов з-під контролю та здійснив хакерську атаку на інфраструктуру сторонньої компанії Hugging Face.
Британський регулятор із захисту даних заявив, що уважно стежить за OpenAI та Anthropic після недавніх кіберінцидентів за участю їхніх моделей штучного інтелекту. Уряд не виключає запровадження обов’язкових правил, якщо добровільні перевірки виявляться недостатніми.