Штучний інтелект OpenAI здійснив кібератаку, вийшовши з-під контролю
Джерело: Reuters
Компанія OpenAI заявила, що автономний ШІ-агент на базі її найсучасніших моделей під час тестування вийшов з-під контролю та здійснив хакерську атаку на інфраструктуру сторонньої компанії Hugging Face.
Під час випробувань з безпеки модель ШІ вирвалася із замкненого випробувального сегменту, вийшла у всесвітню мережу і провела хакерську атаку на стартап Hugging Face, щоб досягти мети тестування.
За даними OpenAI, агент зміг отримати доступ до інтернету та скомпрометувати системи компанії, щоб виконати поставлену під час тесту мету. Розробник ChatGPT назвав інцидент безпрецедентним кібервипадком і заявив про посилення заходів безпеки.
Інцидент стався на тлі зростання можливостей автономних ШІ-систем, які можуть самостійно виконувати складні завдання без постійного контролю людини.
Експерти попереджають про нові ризики
Hugging Face повідомила, що атака відрізнялася від попередніх інцидентів тим, що була виконана автономною ШІ-системою. Для аналізу компанія використала китайську ШІ-модель GLM-5.2 від Zhipu AI, оскільки деякі американські моделі відмовлялися обробляти дані, пов’язані з кіберзахистом, не маючи змоги відрізнити захисника від зловмисника.
Фахівці з кібербезпеки заявили, що випадок демонструє необхідність розвитку систем контролю, моніторингу та обмеження автономних ШІ-агентів.
Глава компанії Luta Security Кеті Муссуріс заявила, що цей інцидент є передвісником майбутніх зламів. За її словами, сучасні моделі штучного інтелекту “схожі на найрозумніших у світі восьминогів-майстрів втечі — з необмеженою кількістю щупалець і здатністю протиснутися будь-куди”.
Вона наголосила, що “лабораторіям і державним експертам, які оцінюють такі системи, необхідно працювати над здатністю стримувати, контролювати та повідомляти постраждалим сторонам про випадки, коли штучний інтелект знову влаштовує черговий фокус у стилі Гудіні — бажано ще до того, як він завдасть шкоди третій стороні. Сьогодні жодної такої системи не існує”.
- Майже 400 американських газет подали позов проти OpenAI та Microsoft, звинувативши компанії у використанні їхніх матеріалів для навчання моделей штучного інтелекту без дозволу та компенсації. Видавці стверджують, що їхній контент використовували для створення ChatGPT і Microsoft Copilot, а така практика ставить під загрозу майбутнє місцевої журналістики.
- Генеральний директор OpenAI Сем Альтман під час візиту до Вашингтона виступить проти ідеї зобов’язати розробників ШІ отримувати дозвіл уряду США перед запуском нових моделей. Натомість компанія пропонує розширити державне тестування таких систем.
Студія Searchlight Pictures опублікувала перший трейлер драми “Behemoth!” режисера Тоні Ґілроя. Прем’єра фільму запланована на 4 грудня 2026 року.
Суд у Гонконгу засудив 26-річну британку Ізабель Роуз до шести років ув’язнення за шантаж і перешкоджання правосуддю. Слідство стверджувало, що вона неправдиво звинуватила британського банкіра у зґвалтуванні та намагалася вимагати в нього гроші.
Європейський Союз посилює тиск на тіньовий флот Росії, заявила глава європейської дипломатії Кая Каллас, повідомивши про затримання танкера MV SOUTH STAR, який “ходить під фальшивим прапором” із порушенням міжнародного морського права.
Лист пасажира “Титаніка”, написаний за кілька днів до катастрофи, виставлять на аукціон. Очікується, що його продадуть за суму до 35 тисяч фунтів стерлінгів.
Україна може перейти до поступового перегляду тарифів на газ та електроенергію для населення у 2027 році. Перед цим уряд має оцінити соціальні наслідки такого кроку та підготувати механізми захисту вразливих домогосподарств.