У Британії почали нагляд за OpenAI й Anthropic після зламів систем компаній під час тестів
Джерело: Reuters.
Британський регулятор із захисту даних заявив, що уважно стежить за ситуацією навколо OpenAI та Anthropic після недавніх кіберінцидентів за участю їхніх моделей штучного інтелекту.
Управління комісара з питань інформації Великої Британії повідомило, що регулярно взаємодіє з розробниками ШІ та контролює, як вони працюють із персональними даними й ризиками для користувачів.
“Управління регулярно проводить проактивний нагляд за розробниками штучного інтелекту, зокрема OpenAI та Anthropic”, – заявили у відомстві.
Там додали, що знають про останні випадки зламів у галузі та “уважно стежать за розвитком подій”.
Минулого тижня Anthropic повідомила, що під час перевірок кібербезпеки деякі моделі Claude змогли проникнути до систем трьох компаній. Йшлося про контрольовані випробування, під час яких фахівці перевіряли можливості та потенційно небезпечну поведінку ШІ.
За кілька днів до цього OpenAI розповіла про інцидент з одним зі своїх автономних агентів. Система почала діяти не так, як очікували розробники, і вийшла за межі початкового завдання.
Події привернули увагу регуляторів не лише у Великій Британії. У США адміністрація Дональда Трампа вже завершила підготовку добровільних тестів кібербезпеки для розробників ШІ. Європейські регулятори також обговорюють із OpenAI та Anthropic питання безпеки їхніх моделей.
Наразі британський підхід передбачає переважно добровільне тестування найпотужніших систем перед їхнім запуском. Однак уряд допускає запровадження обов’язкових правил.
Міністр Великої Британії з питань штучного інтелекту Канішка Нараян заявив, що влада розгляне регулювання передових моделей, якщо чинна система перевірок перестане достатньо захищати людей.
- Компанія OpenAI заявила, що автономний ШІ-агент на базі її найсучасніших моделей під час тестування вийшов з-під контролю та здійснив хакерську атаку на інфраструктуру сторонньої компанії Hugging Face.
- Apple подала до суду на OpenAI та двох колишніх співробітників. Компанія заявляє про незаконне привласнення її комерційних таємниць.
Французька правозахисна організація Utopia 56 заявила про різке зростання кількості випадків насильства щодо мігрантів, які намагаються перетнути Ла-Манш. За її даними, від початку року про такі інциденти повідомили 2 720 людей.
Середня температура поверхні Світового океану 22 серпня піднялася до 21,1 °C, встановивши новий рекорд за всю історію спостережень.
Через рекордне обміління Дунаю Болгарія планує збудувати дамбу біля атомної електростанції “Козлодуй”, аби забезпечити стабільне постачання води для охолодження реакторів.
Адміністрація Дональда Трампа запропонувала закріпити збір у 103 265 доларів за нові візи H-1B – робочі візи, які дозволяють американським компаніям наймати висококваліфікованих іноземних фахівців. Раніше аналогічний збір уже блокував федеральний суд.
24 серпня, на 35-ту річницю незалежності у Софійському соборі провели спільну молитву різних конфесій та віросповідань за мир, завершення війни та Україну.