Meta, Google, OpenAI та Anthropic обговорять із радниками Трампа для перевірки безпеки ШІ
Джерело: Reuters.
Білий дім обговорить із провідними американськими розробниками штучного інтелекту, як перевіряти найпотужніші моделі на здатність зламувати цифрові системи. У зустрічі з радниками президента Дональда Трампа мають взяти участь представники Meta, Anthropic, Google та OpenAI.
За даними Reuters, основною темою стане добровільне тестування передових моделей до їхнього публічного запуску. Американська влада хоче з’ясувати, наскільки ефективно такі системи можуть проводити кібератаки або допомагати людям у їхній організації.
У червні адміністрація Трампа запропонувала компаніям добровільно передавати свої нові моделі на державну перевірку не пізніше ніж за 30 днів до запланованого випуску. У Білому домі заявили, що деталі процедури вже остаточно підготували, однак поки не повідомили, чи оприлюднять їх повністю.
Посилення уваги до безпеки ШІ пов’язане з недавніми інцидентами, про які розповіли OpenAI та Anthropic. Їхні інструменти під час випробувань змогли проникнути до систем сторонніх компаній.
Ці випадки викликали занепокоєння серед американських законодавців. Вони побоюються, що зі зростанням можливостей моделей штучного інтелекту їх дедалі частіше можуть використовувати для автоматизації зламів, пошуку вразливостей або інших небезпечних дій.
Особливу увагу приділяють автономним ШІ-агентам. На відміну від звичайних чатботів, вони можуть самостійно виконувати низку послідовних завдань, користуватися програмами та ухвалювати проміжні рішення без постійних команд людини. Саме це робить їх корисними, але водночас створює додаткові ризики.
Адміністрація Трампа поки мало коментувала ці інциденти публічно. Відомо лише, що американські посадовці стежать за ситуацією навколо OpenAI. Генеральний директор компанії Сем Альтман минулого тижня також відвідав Білий дім.
Очікується, що під час зустрічі сторони обговорять не лише саму процедуру тестування, а й те, які можливості моделі повинні демонструвати, щоб їх визнали потенційно небезпечними. Окремим питанням стане відповідальність компаній у разі, якщо ШІ під час перевірки або після запуску почне діяти поза встановленими межами.
Наразі американська програма залишається добровільною. Водночас результати її роботи можуть визначити, чи перейдуть США надалі до обов’язкових вимог для розробників найпотужніших систем штучного інтелекту.
- Компанія OpenAI заявила, що автономний ШІ-агент на базі її найсучасніших моделей під час тестування вийшов з-під контролю та здійснив хакерську атаку на інфраструктуру сторонньої компанії Hugging Face.
- Британський регулятор із захисту даних заявив, що уважно стежить за OpenAI та Anthropic після недавніх кіберінцидентів за участю їхніх моделей штучного інтелекту. Уряд не виключає запровадження обов’язкових правил, якщо добровільні перевірки виявляться недостатніми.
Йорданія скликає екстрену зустріч міністрів закордонних справ арабських і мусульманських країн через ситуацію навколо мечеті Аль-Акса в Єрусалимі. В Аммані попереджають, що спроба змінити чинні правила доступу та молитви може спричинити релігійний конфлікт далеко за межами регіону.
Служба безпеки України за 40 днів уразила понад 100 стратегічних об’єктів в тилу ворога та понад 21 тис. цілей на фронті.
США та Іран можуть домовитися про відновлення руху суден через Ормузьку протоку вже цього тижня. Переговори між країнами тривають, заявив міністр фінансів США Скотт Бессент.
Легендарний альбом The Beatles “Rubber Soul” отримає розширене перевидання. До нової версії, яка вийде 2 жовтня, увійдуть оновлені стереомікси, раніше невидані студійні записи та домашні демоверсії.
Представники Meta, Anthropic, Google та OpenAI зустрінуться з радниками президента США Дональда Трампа, щоб обговорити перевірки найпотужніших моделей штучного інтелекту. Головна увага буде зосереджена на їхній здатності зламувати цифрові системи.