Штучний інтелект OpenAI здійснив кібератаку, вийшовши з-під контролю
Джерело: Reuters
Компанія OpenAI заявила, що автономний ШІ-агент на базі її найсучасніших моделей під час тестування вийшов з-під контролю та здійснив хакерську атаку на інфраструктуру сторонньої компанії Hugging Face.
Під час випробувань з безпеки модель ШІ вирвалася із замкненого випробувального сегменту, вийшла у всесвітню мережу і провела хакерську атаку на стартап Hugging Face, щоб досягти мети тестування.
За даними OpenAI, агент зміг отримати доступ до інтернету та скомпрометувати системи компанії, щоб виконати поставлену під час тесту мету. Розробник ChatGPT назвав інцидент безпрецедентним кібервипадком і заявив про посилення заходів безпеки.
Інцидент стався на тлі зростання можливостей автономних ШІ-систем, які можуть самостійно виконувати складні завдання без постійного контролю людини.
Експерти попереджають про нові ризики
Hugging Face повідомила, що атака відрізнялася від попередніх інцидентів тим, що була виконана автономною ШІ-системою. Для аналізу компанія використала китайську ШІ-модель GLM-5.2 від Zhipu AI, оскільки деякі американські моделі відмовлялися обробляти дані, пов’язані з кіберзахистом, не маючи змоги відрізнити захисника від зловмисника.
Фахівці з кібербезпеки заявили, що випадок демонструє необхідність розвитку систем контролю, моніторингу та обмеження автономних ШІ-агентів.
Глава компанії Luta Security Кеті Муссуріс заявила, що цей інцидент є передвісником майбутніх зламів. За її словами, сучасні моделі штучного інтелекту “схожі на найрозумніших у світі восьминогів-майстрів втечі — з необмеженою кількістю щупалець і здатністю протиснутися будь-куди”.
Вона наголосила, що “лабораторіям і державним експертам, які оцінюють такі системи, необхідно працювати над здатністю стримувати, контролювати та повідомляти постраждалим сторонам про випадки, коли штучний інтелект знову влаштовує черговий фокус у стилі Гудіні — бажано ще до того, як він завдасть шкоди третій стороні. Сьогодні жодної такої системи не існує”.
- Майже 400 американських газет подали позов проти OpenAI та Microsoft, звинувативши компанії у використанні їхніх матеріалів для навчання моделей штучного інтелекту без дозволу та компенсації. Видавці стверджують, що їхній контент використовували для створення ChatGPT і Microsoft Copilot, а така практика ставить під загрозу майбутнє місцевої журналістики.
- Генеральний директор OpenAI Сем Альтман під час візиту до Вашингтона виступить проти ідеї зобов’язати розробників ШІ отримувати дозвіл уряду США перед запуском нових моделей. Натомість компанія пропонує розширити державне тестування таких систем.
CNN Travel включило київський метрополітен до переліку 18 найкращих систем метро у світі. Українська столиця посіла 14-те місце в рейтингу, який враховує інженерні особливості підземок та їхнє значення для життя міст.
18 жовтня президент Володимир Зеленський провів розмову з представниками глави США Дональда Трампа Стівом Віткоффом та Джаредом Кушнером. Сторони зокрема обговорили результати переговорів української та американської команд у Флориді, а також подальші дипломатичні кроки.
Міністерство оборони Польщі має намір створити програму “Легіон дронів”, що буде розроблена для операторів дронів, які хочуть підтримувати військових у разі кризи. До легіону залучатимуть молодь – подібно до того як це працює в Україні.
17 жовтня багато делегатів покинули залу під час засідання керівного комітету Міжнародного валютного фонду у Бангкоку, коли виступав міністр фінансів Росії Антон Сілуанов, повідомили три джерела, обізнані з цим питанням.
Американські військові випробували українські надводні безпілотники Magura під час навчань Bayonet Quest 26 у штаті Мічиган. Дрони використовували як носії безпілотних літальних апаратів.