Meta, Google, OpenAI та Anthropic обговорять із радниками Трампа для перевірки безпеки ШІ
Джерело: Reuters.
Білий дім обговорить із провідними американськими розробниками штучного інтелекту, як перевіряти найпотужніші моделі на здатність зламувати цифрові системи. У зустрічі з радниками президента Дональда Трампа мають взяти участь представники Meta, Anthropic, Google та OpenAI.
За даними Reuters, основною темою стане добровільне тестування передових моделей до їхнього публічного запуску. Американська влада хоче з’ясувати, наскільки ефективно такі системи можуть проводити кібератаки або допомагати людям у їхній організації.
У червні адміністрація Трампа запропонувала компаніям добровільно передавати свої нові моделі на державну перевірку не пізніше ніж за 30 днів до запланованого випуску. У Білому домі заявили, що деталі процедури вже остаточно підготували, однак поки не повідомили, чи оприлюднять їх повністю.
Посилення уваги до безпеки ШІ пов’язане з недавніми інцидентами, про які розповіли OpenAI та Anthropic. Їхні інструменти під час випробувань змогли проникнути до систем сторонніх компаній.
Ці випадки викликали занепокоєння серед американських законодавців. Вони побоюються, що зі зростанням можливостей моделей штучного інтелекту їх дедалі частіше можуть використовувати для автоматизації зламів, пошуку вразливостей або інших небезпечних дій.
Особливу увагу приділяють автономним ШІ-агентам. На відміну від звичайних чатботів, вони можуть самостійно виконувати низку послідовних завдань, користуватися програмами та ухвалювати проміжні рішення без постійних команд людини. Саме це робить їх корисними, але водночас створює додаткові ризики.
Адміністрація Трампа поки мало коментувала ці інциденти публічно. Відомо лише, що американські посадовці стежать за ситуацією навколо OpenAI. Генеральний директор компанії Сем Альтман минулого тижня також відвідав Білий дім.
Очікується, що під час зустрічі сторони обговорять не лише саму процедуру тестування, а й те, які можливості моделі повинні демонструвати, щоб їх визнали потенційно небезпечними. Окремим питанням стане відповідальність компаній у разі, якщо ШІ під час перевірки або після запуску почне діяти поза встановленими межами.
Наразі американська програма залишається добровільною. Водночас результати її роботи можуть визначити, чи перейдуть США надалі до обов’язкових вимог для розробників найпотужніших систем штучного інтелекту.
- Компанія OpenAI заявила, що автономний ШІ-агент на базі її найсучасніших моделей під час тестування вийшов з-під контролю та здійснив хакерську атаку на інфраструктуру сторонньої компанії Hugging Face.
- Британський регулятор із захисту даних заявив, що уважно стежить за OpenAI та Anthropic після недавніх кіберінцидентів за участю їхніх моделей штучного інтелекту. Уряд не виключає запровадження обов’язкових правил, якщо добровільні перевірки виявляться недостатніми.
Генрі Кавілл стане виконавчим продюсером нового анімаційного серіалу за всесвітом “Warhammer 40,000”. Проєкт розробляють Amazon MGM Studios, Blur Studios і Games Workshop.
Дослідники зі Стенфордського університету виявили, що те, яким чином дитина говорить про стресові або складні події, краще прогнозує майбутні ризики для психічного здоров’я, ніж зміст того, що вона говорить.
У Ла-Манші врятували 173 мігрантів після того, як на їхньому човні загорівся двигун. Усіх доправили до французького міста Булонь-сюр-Мер, а британський уряд заявив, що вони не залишаться у Великій Британії.
Апеляційний суд посилив вироки агенту ФСБ та його спільнику, яких Служба безпеки України викрила у жовтні 2024 року в Чернівцях. Головного фігуранта засудили до довічного позбавлення волі з конфіскацією майна, його поплічник отримав 12 років ув’язнення.
Британський режисер Джастін Гарді, син режисера культового фільму “Плетена людина” Робіна Гарді, помер у віці 61 року. Про це повідомила його родина. Причиною смерті став серцевий напад. Незадовго до цього режисер завершив роботу над фільмом “Гнів богів”, який мав стати завершальною частиною трилогії.