Meta, Google, OpenAI та Anthropic обговорять із радниками Трампа для перевірки безпеки ШІ
Джерело: Reuters.
Білий дім обговорить із провідними американськими розробниками штучного інтелекту, як перевіряти найпотужніші моделі на здатність зламувати цифрові системи. У зустрічі з радниками президента Дональда Трампа мають взяти участь представники Meta, Anthropic, Google та OpenAI.
За даними Reuters, основною темою стане добровільне тестування передових моделей до їхнього публічного запуску. Американська влада хоче з’ясувати, наскільки ефективно такі системи можуть проводити кібератаки або допомагати людям у їхній організації.
У червні адміністрація Трампа запропонувала компаніям добровільно передавати свої нові моделі на державну перевірку не пізніше ніж за 30 днів до запланованого випуску. У Білому домі заявили, що деталі процедури вже остаточно підготували, однак поки не повідомили, чи оприлюднять їх повністю.
Посилення уваги до безпеки ШІ пов’язане з недавніми інцидентами, про які розповіли OpenAI та Anthropic. Їхні інструменти під час випробувань змогли проникнути до систем сторонніх компаній.
Ці випадки викликали занепокоєння серед американських законодавців. Вони побоюються, що зі зростанням можливостей моделей штучного інтелекту їх дедалі частіше можуть використовувати для автоматизації зламів, пошуку вразливостей або інших небезпечних дій.
Особливу увагу приділяють автономним ШІ-агентам. На відміну від звичайних чатботів, вони можуть самостійно виконувати низку послідовних завдань, користуватися програмами та ухвалювати проміжні рішення без постійних команд людини. Саме це робить їх корисними, але водночас створює додаткові ризики.
Адміністрація Трампа поки мало коментувала ці інциденти публічно. Відомо лише, що американські посадовці стежать за ситуацією навколо OpenAI. Генеральний директор компанії Сем Альтман минулого тижня також відвідав Білий дім.
Очікується, що під час зустрічі сторони обговорять не лише саму процедуру тестування, а й те, які можливості моделі повинні демонструвати, щоб їх визнали потенційно небезпечними. Окремим питанням стане відповідальність компаній у разі, якщо ШІ під час перевірки або після запуску почне діяти поза встановленими межами.
Наразі американська програма залишається добровільною. Водночас результати її роботи можуть визначити, чи перейдуть США надалі до обов’язкових вимог для розробників найпотужніших систем штучного інтелекту.
- Компанія OpenAI заявила, що автономний ШІ-агент на базі її найсучасніших моделей під час тестування вийшов з-під контролю та здійснив хакерську атаку на інфраструктуру сторонньої компанії Hugging Face.
- Британський регулятор із захисту даних заявив, що уважно стежить за OpenAI та Anthropic після недавніх кіберінцидентів за участю їхніх моделей штучного інтелекту. Уряд не виключає запровадження обов’язкових правил, якщо добровільні перевірки виявляться недостатніми.
5 жовтня в Україні буде переважно хмарно з проясненнями. У більшості регіонів істотних опадів не очікується.
У Харкові внаслідок російської атаки загинула одна людина, ще восьмеро дістали поранення. Удари зафіксували у Київському та Індустріальному районах міста.
За перші дев’ять місяців у країнах Європейського Союзу, а також у Норвегії та Швейцарії зареєстрували 452 969 клопотань про надання притулку, свідчать дані Агентства ЄС з питань притулку (EUAA). Це на 24,3% менше проти аналогічного періоду минулого року, коли було подано 598 575 заяв.
4 жовтня лідер фракції Петро Порошенко повідомив про зустріч із Федеральним канцлером ФРН Фрідріхом Мерцем, котрий приїхав з неанонсованим візитом до Києва.
Із 5 до 9 жовтня між правим і лівим берегами Києва курсуватимуть 18 додаткових човникових рейсів Kyiv City Express. Їх запустять через ускладнений рух мостами столиці, щоб забезпечити альтернативне сполучення між берегами.