У Британії почали нагляд за OpenAI й Anthropic після зламів систем компаній під час тестів
Джерело: Reuters.
Британський регулятор із захисту даних заявив, що уважно стежить за ситуацією навколо OpenAI та Anthropic після недавніх кіберінцидентів за участю їхніх моделей штучного інтелекту.
Управління комісара з питань інформації Великої Британії повідомило, що регулярно взаємодіє з розробниками ШІ та контролює, як вони працюють із персональними даними й ризиками для користувачів.
“Управління регулярно проводить проактивний нагляд за розробниками штучного інтелекту, зокрема OpenAI та Anthropic”, – заявили у відомстві.
Там додали, що знають про останні випадки зламів у галузі та “уважно стежать за розвитком подій”.
Минулого тижня Anthropic повідомила, що під час перевірок кібербезпеки деякі моделі Claude змогли проникнути до систем трьох компаній. Йшлося про контрольовані випробування, під час яких фахівці перевіряли можливості та потенційно небезпечну поведінку ШІ.
За кілька днів до цього OpenAI розповіла про інцидент з одним зі своїх автономних агентів. Система почала діяти не так, як очікували розробники, і вийшла за межі початкового завдання.
Події привернули увагу регуляторів не лише у Великій Британії. У США адміністрація Дональда Трампа вже завершила підготовку добровільних тестів кібербезпеки для розробників ШІ. Європейські регулятори також обговорюють із OpenAI та Anthropic питання безпеки їхніх моделей.
Наразі британський підхід передбачає переважно добровільне тестування найпотужніших систем перед їхнім запуском. Однак уряд допускає запровадження обов’язкових правил.
Міністр Великої Британії з питань штучного інтелекту Канішка Нараян заявив, що влада розгляне регулювання передових моделей, якщо чинна система перевірок перестане достатньо захищати людей.
- Компанія OpenAI заявила, що автономний ШІ-агент на базі її найсучасніших моделей під час тестування вийшов з-під контролю та здійснив хакерську атаку на інфраструктуру сторонньої компанії Hugging Face.
- Apple подала до суду на OpenAI та двох колишніх співробітників. Компанія заявляє про незаконне привласнення її комерційних таємниць.
Дипломатичний поїзд із радниками з безпеки країн ЄС та колишнім прем’єром Великої Британії Борісом Джонсоном незадовго до російської атаки залишив станцію Ягодин біля кордону з Польщею. В Укрзалізниці припускають, що саме він міг бути однією з цілей реактивного дрона.
Міністр закордонних справ Польщі Радослав Сікорський заявив, що у разі прямого нападу Росії Варшава, на його думку, могла б доволі швидко здобути перевагу. Одним із головних факторів він назвав значно сильніші можливості у повітрі та наявність озброєння для глибоких ударів.
Російські війська протягом дня 13 вересня атакували Україну 323 ударними безпілотниками, серед яких було 14 реактивних. Сили ППО збили або подавили 310 дронів, водночас зафіксовано 10 влучань.
Британський фінтех Revolut підтвердив витік чутливої інформації частини клієнтів після того, як отримав шахрайські запити з адреси, що належала легітимному домену державного органу. Компанія заявляє, що її системи та кошти користувачів не постраждали.
Співробітника посольства США в Лондоні, якого підозрюють у зберіганні непристойних зображень дітей, у серпні затримали у його квартирі на півдні міста та вивезли до Сполучених Штатів. Британська поліція до цього не встигла його допитати.