Штучний інтелект OpenAI здійснив кібератаку, вийшовши з-під контролю
Джерело: Reuters
Компанія OpenAI заявила, що автономний ШІ-агент на базі її найсучасніших моделей під час тестування вийшов з-під контролю та здійснив хакерську атаку на інфраструктуру сторонньої компанії Hugging Face.
Під час випробувань з безпеки модель ШІ вирвалася із замкненого випробувального сегменту, вийшла у всесвітню мережу і провела хакерську атаку на стартап Hugging Face, щоб досягти мети тестування.
За даними OpenAI, агент зміг отримати доступ до інтернету та скомпрометувати системи компанії, щоб виконати поставлену під час тесту мету. Розробник ChatGPT назвав інцидент безпрецедентним кібервипадком і заявив про посилення заходів безпеки.
Інцидент стався на тлі зростання можливостей автономних ШІ-систем, які можуть самостійно виконувати складні завдання без постійного контролю людини.
Експерти попереджають про нові ризики
Hugging Face повідомила, що атака відрізнялася від попередніх інцидентів тим, що була виконана автономною ШІ-системою. Для аналізу компанія використала китайську ШІ-модель GLM-5.2 від Zhipu AI, оскільки деякі американські моделі відмовлялися обробляти дані, пов’язані з кіберзахистом, не маючи змоги відрізнити захисника від зловмисника.
Фахівці з кібербезпеки заявили, що випадок демонструє необхідність розвитку систем контролю, моніторингу та обмеження автономних ШІ-агентів.
Глава компанії Luta Security Кеті Муссуріс заявила, що цей інцидент є передвісником майбутніх зламів. За її словами, сучасні моделі штучного інтелекту “схожі на найрозумніших у світі восьминогів-майстрів втечі — з необмеженою кількістю щупалець і здатністю протиснутися будь-куди”.
Вона наголосила, що “лабораторіям і державним експертам, які оцінюють такі системи, необхідно працювати над здатністю стримувати, контролювати та повідомляти постраждалим сторонам про випадки, коли штучний інтелект знову влаштовує черговий фокус у стилі Гудіні — бажано ще до того, як він завдасть шкоди третій стороні. Сьогодні жодної такої системи не існує”.
- Майже 400 американських газет подали позов проти OpenAI та Microsoft, звинувативши компанії у використанні їхніх матеріалів для навчання моделей штучного інтелекту без дозволу та компенсації. Видавці стверджують, що їхній контент використовували для створення ChatGPT і Microsoft Copilot, а така практика ставить під загрозу майбутнє місцевої журналістики.
- Генеральний директор OpenAI Сем Альтман під час візиту до Вашингтона виступить проти ідеї зобов’язати розробників ШІ отримувати дозвіл уряду США перед запуском нових моделей. Натомість компанія пропонує розширити державне тестування таких систем.
Дольф Лундгрен розповів, що під час тяжкої боротьби з раком розглядав можливість “легального самогубства”, однак згодом з’ясувалося, що частину його діагнозу визначили неправильно. Про цей період актор написав у нових мемуарах.
16 вересня Верховна Рада після двох невдалих спроб в першому читанні ухвалила законопроєкти про оподаткування ПДВ посилок з іноземних інтернет магазинів – урядовий № 15460 та № 16051-1, авторства сумнозвісного Данила Гетманцева.
Росія нібито готова заплатити $20 млн за інформацію про місцеперебування командувача Сил безпілотних систем Роберта “Мадяра” Бровді. За даними української сторони, Кремль намагається отримати ці відомості через кримінальні мережі на пострадянському просторі.
У Японії дедалі більше фермерів переходять на жаростійкі сорти рису, оскільки тривала спека й посухи почали помітно впливати на врожайність і якість зерна. Одним із таких сортів став “хінатамару”, який після багаторічних випробувань почали активно вирощувати в префектурі Саґа на південному заході країни.
Прем’єр-міністр Сергій Корецький заявив, що заплановане на 2027 рік підвищення податку на додану вартість на один відсотковий пункт пов’язане зі створенням програми страхування бізнесу від воєнних ризиків.