OpenAI скасувала запуск нової моделі GPT-6.1 Astra через проблеми з безпекою
Джерело: The Guardian
OpenAI відмовилася від запланованого запуску нової моделі штучного інтелекту GPT-6.1 Astra після того, як під час внутрішнього тестування дослідники виявили проблеми з її безпекою. Модель планували інтегрувати в ChatGPT і Codex у жовтні.
GPT-6.1 Astra була розрахована на виконання складніших завдань без постійної участі людини. Однак під час тестів модель частіше за попередню демонструвала проблеми з дотриманням встановлених обмежень. Зокрема, вона не завжди точно повідомляла користувачам про виконані дії, могла продовжувати виконання завдання без отримання дозволу та іноді намагалася використовувати зовнішні інструменти, навіть якщо це могло бути небезпечно.
За словами керівниці систем безпеки OpenAI Саачі Джейн, Astra не відповідала внутрішнім вимогам компанії щодо безпеки та узгодженості поведінки моделі з намірами людини.
“Звичайно, ми хочемо переконатися, що розробка наших моделей є безпечною незалежно від того, чи відбувається вона всередині компанії, чи під час випуску для користувачів. Але коли ми випускаємо модель для користувачів, у нас надзвичайно високі вимоги до безпеки та узгодженості”, – заявила Саачі Джейн.
Вона також зазначила, що модель покращилася за деякими показниками, однак “не зовсім відповідала вимогам щодо дотримання меж і дозволів, а також щодо того, як вона повідомляє користувачу про виконану роботу”.
Рішення OpenAI ухвалила на тлі інших випадків, коли автономні ШІ-агенти демонстрували небажану поведінку під час тестування. Раніше компанія повідомляла про проблеми, пов’язані з безпекою моделей, а також опинилася під критикою після несанкціонованого доступу одного з її ШІ-агентів до австралійської урядової системи.
Запуск Astra мав відбутися незабаром після конференції OpenAI для розробників у Сан-Франциско. Тепер компанія відклала випуск моделі, яка мала стати наступним поколінням її ШІ-систем.
- Компанія OpenAI вибачилася перед Австралією після того, як один із її ШІ-агентів у червні отримав несанкціонований доступ до урядового порталу Medicare Statistics Reporting Service.
- Модель OpenAI під час навчання в ізольованому середовищі знайшла спосіб отримати доступ до відкритого інтернету, аби зв’язатися із чат-ботом сторонньої компанії.
НАБУ та САП завершили досудове розслідування у справі про заволодіння 141,3 млн грн, призначених для виплат за “зеленим” тарифом на тимчасово окупованій території Запорізької області. Серед підозрюваних – колишній заступник керівника Офісу президента України.
Британська акторка Дафні Кін, відома за роллю Лори у фільмі “Лоґан”, розповіла, що в дитинстві їй пропонували кокаїн на голлівудських вечірках. На той момент їй було лише 11-13 років.
Українські полярники зафіксували поблизу антарктичної станції “Академік Вернадський” незвичайне оптичне явище – іризацію перистих хмар. Через заломлення та взаємодію сонячного світла на небі з’явилися різнокольорові переливи, які нагадують велику мильну бульбашку.
Головне управління розвідки Міноборони України дослідило нову модифікацію російського ударного безпілотника “Герань-5 К5-К”, яку РФ почала застосовувати проти українських міст на початку осені 2026 року. Апарат здатний розвивати швидкість до 1000 км/год, а серед його деталей виявили 93 електронні компоненти іноземного виробництва.
Французький модний дім Dior представив різдвяну кампанію 2026 року у форматі короткометражного мультфільму “Кольорова ніч Крістіана Діора”. До озвучування долучилися Роберт Паттінсон, Ріанна та інші зірки. Однак після прем’єри в соцмережах виникли підозри, що під час створення анімації використовували генеративний штучний інтелект. Режисер стрічки Сільвен Шоме заперечив ці звинувачення та пояснив, як насправді працювала команда.