Штучний інтелект OpenAI здійснив кібератаку, вийшовши з-під контролю
Джерело: Reuters
Компанія OpenAI заявила, що автономний ШІ-агент на базі її найсучасніших моделей під час тестування вийшов з-під контролю та здійснив хакерську атаку на інфраструктуру сторонньої компанії Hugging Face.
Під час випробувань з безпеки модель ШІ вирвалася із замкненого випробувального сегменту, вийшла у всесвітню мережу і провела хакерську атаку на стартап Hugging Face, щоб досягти мети тестування.
За даними OpenAI, агент зміг отримати доступ до інтернету та скомпрометувати системи компанії, щоб виконати поставлену під час тесту мету. Розробник ChatGPT назвав інцидент безпрецедентним кібервипадком і заявив про посилення заходів безпеки.
Інцидент стався на тлі зростання можливостей автономних ШІ-систем, які можуть самостійно виконувати складні завдання без постійного контролю людини.
Експерти попереджають про нові ризики
Hugging Face повідомила, що атака відрізнялася від попередніх інцидентів тим, що була виконана автономною ШІ-системою. Для аналізу компанія використала китайську ШІ-модель GLM-5.2 від Zhipu AI, оскільки деякі американські моделі відмовлялися обробляти дані, пов’язані з кіберзахистом, не маючи змоги відрізнити захисника від зловмисника.
Фахівці з кібербезпеки заявили, що випадок демонструє необхідність розвитку систем контролю, моніторингу та обмеження автономних ШІ-агентів.
Глава компанії Luta Security Кеті Муссуріс заявила, що цей інцидент є передвісником майбутніх зламів. За її словами, сучасні моделі штучного інтелекту “схожі на найрозумніших у світі восьминогів-майстрів втечі — з необмеженою кількістю щупалець і здатністю протиснутися будь-куди”.
Вона наголосила, що “лабораторіям і державним експертам, які оцінюють такі системи, необхідно працювати над здатністю стримувати, контролювати та повідомляти постраждалим сторонам про випадки, коли штучний інтелект знову влаштовує черговий фокус у стилі Гудіні — бажано ще до того, як він завдасть шкоди третій стороні. Сьогодні жодної такої системи не існує”.
- Майже 400 американських газет подали позов проти OpenAI та Microsoft, звинувативши компанії у використанні їхніх матеріалів для навчання моделей штучного інтелекту без дозволу та компенсації. Видавці стверджують, що їхній контент використовували для створення ChatGPT і Microsoft Copilot, а така практика ставить під загрозу майбутнє місцевої журналістики.
- Генеральний директор OpenAI Сем Альтман під час візиту до Вашингтона виступить проти ідеї зобов’язати розробників ШІ отримувати дозвіл уряду США перед запуском нових моделей. Натомість компанія пропонує розширити державне тестування таких систем.
Франція найближчими днями висилає двох іранських дипломатів у відповідь на інцидент із працівниками французького посольства в Тегерані. У Парижі заявили, що минулого місяця їх навмисно затримали й порушили їхній дипломатичний імунітет.
Землетрус магнітудою 4,8 стався у вівторок вранці поблизу Гранади на півдні Іспанії. Щонайменше троє людей легко травмовані, пошкоджені будівлі та автомобілі, а частину громадських об’єктів тимчасово закрили.
Міністерство юстиції США оприлюднило нові та оновлені обвинувачення проти 17 осіб, пов’язаних з іранським інститутом “Мабна”. За версією слідства, вони брали участь у багаторічних кібератаках на університети, компанії та державні установи з метою викрадення досліджень і даних.
Інспектори МАГАТЕ виявили в Сирії кілька тонн ядерного матеріалу на об’єкті, доступ до якого нова влада країни відкрила міжнародним фахівцям. За словами гендиректора агентства Рафаеля Маріано Гроссі, матеріал буде облікований і взятий під систему міжнародних гарантій.
США запровадили санкції проти президентки Міжнародного кримінального суду Томоко Акане та старшого прокурора Абдулая Сеє. У Вашингтоні заявили, що вони брали участь у спробах розслідувати та переслідувати посадовців держав, які не визнають юрисдикцію МКС.