Штучний інтелект OpenAI здійснив кібератаку, вийшовши з-під контролю
Джерело: Reuters
Компанія OpenAI заявила, що автономний ШІ-агент на базі її найсучасніших моделей під час тестування вийшов з-під контролю та здійснив хакерську атаку на інфраструктуру сторонньої компанії Hugging Face.
Під час випробувань з безпеки модель ШІ вирвалася із замкненого випробувального сегменту, вийшла у всесвітню мережу і провела хакерську атаку на стартап Hugging Face, щоб досягти мети тестування.
За даними OpenAI, агент зміг отримати доступ до інтернету та скомпрометувати системи компанії, щоб виконати поставлену під час тесту мету. Розробник ChatGPT назвав інцидент безпрецедентним кібервипадком і заявив про посилення заходів безпеки.
Інцидент стався на тлі зростання можливостей автономних ШІ-систем, які можуть самостійно виконувати складні завдання без постійного контролю людини.
Експерти попереджають про нові ризики
Hugging Face повідомила, що атака відрізнялася від попередніх інцидентів тим, що була виконана автономною ШІ-системою. Для аналізу компанія використала китайську ШІ-модель GLM-5.2 від Zhipu AI, оскільки деякі американські моделі відмовлялися обробляти дані, пов’язані з кіберзахистом, не маючи змоги відрізнити захисника від зловмисника.
Фахівці з кібербезпеки заявили, що випадок демонструє необхідність розвитку систем контролю, моніторингу та обмеження автономних ШІ-агентів.
Глава компанії Luta Security Кеті Муссуріс заявила, що цей інцидент є передвісником майбутніх зламів. За її словами, сучасні моделі штучного інтелекту “схожі на найрозумніших у світі восьминогів-майстрів втечі — з необмеженою кількістю щупалець і здатністю протиснутися будь-куди”.
Вона наголосила, що “лабораторіям і державним експертам, які оцінюють такі системи, необхідно працювати над здатністю стримувати, контролювати та повідомляти постраждалим сторонам про випадки, коли штучний інтелект знову влаштовує черговий фокус у стилі Гудіні — бажано ще до того, як він завдасть шкоди третій стороні. Сьогодні жодної такої системи не існує”.
- Майже 400 американських газет подали позов проти OpenAI та Microsoft, звинувативши компанії у використанні їхніх матеріалів для навчання моделей штучного інтелекту без дозволу та компенсації. Видавці стверджують, що їхній контент використовували для створення ChatGPT і Microsoft Copilot, а така практика ставить під загрозу майбутнє місцевої журналістики.
- Генеральний директор OpenAI Сем Альтман під час візиту до Вашингтона виступить проти ідеї зобов’язати розробників ШІ отримувати дозвіл уряду США перед запуском нових моделей. Натомість компанія пропонує розширити державне тестування таких систем.
Поблизу Парижа знайшли мертвим Даніеля Сіада – модельного скаута, чиє ім’я неодноразово згадувалося у файлах, пов’язаних із Джеффрі Епштейном. Французька прокуратура повідомила, що причину смерті має встановити розтин.
Державна служба з етнополітики та свободи совісті завершила дослідження щодо наявності ознак афілійованості Почаївської Свято-Успенської лаври з іноземною релігійною організацією, діяльність якої заборонена в Україні.Російською православною церквою, забороненою у нашій країні.
Президент США Дональд Трамп заявив, що Штати битимуть по іранській інфраструктурі щоразу, як Тегеран атакує судна в Ормузькій протоці.
Вранці 22 липня російські окупанти атакували безпілотником цивільний автомобіль у селищі Вовчанської громади Харківської області. Внаслідок удару постраждали дві жінки.
Компанія OpenAI заявила, що автономний ШІ-агент на базі її найсучасніших моделей під час тестування вийшов з-під контролю та здійснив хакерську атаку на інфраструктуру сторонньої компанії Hugging Face.