OpenAI скасувала запуск нової моделі GPT-6.1 Astra через проблеми з безпекою
Джерело: The Guardian
OpenAI відмовилася від запланованого запуску нової моделі штучного інтелекту GPT-6.1 Astra після того, як під час внутрішнього тестування дослідники виявили проблеми з її безпекою. Модель планували інтегрувати в ChatGPT і Codex у жовтні.
GPT-6.1 Astra була розрахована на виконання складніших завдань без постійної участі людини. Однак під час тестів модель частіше за попередню демонструвала проблеми з дотриманням встановлених обмежень. Зокрема, вона не завжди точно повідомляла користувачам про виконані дії, могла продовжувати виконання завдання без отримання дозволу та іноді намагалася використовувати зовнішні інструменти, навіть якщо це могло бути небезпечно.
За словами керівниці систем безпеки OpenAI Саачі Джейн, Astra не відповідала внутрішнім вимогам компанії щодо безпеки та узгодженості поведінки моделі з намірами людини.
“Звичайно, ми хочемо переконатися, що розробка наших моделей є безпечною незалежно від того, чи відбувається вона всередині компанії, чи під час випуску для користувачів. Але коли ми випускаємо модель для користувачів, у нас надзвичайно високі вимоги до безпеки та узгодженості”, – заявила Саачі Джейн.
Вона також зазначила, що модель покращилася за деякими показниками, однак “не зовсім відповідала вимогам щодо дотримання меж і дозволів, а також щодо того, як вона повідомляє користувачу про виконану роботу”.
Рішення OpenAI ухвалила на тлі інших випадків, коли автономні ШІ-агенти демонстрували небажану поведінку під час тестування. Раніше компанія повідомляла про проблеми, пов’язані з безпекою моделей, а також опинилася під критикою після несанкціонованого доступу одного з її ШІ-агентів до австралійської урядової системи.
Запуск Astra мав відбутися незабаром після конференції OpenAI для розробників у Сан-Франциско. Тепер компанія відклала випуск моделі, яка мала стати наступним поколінням її ШІ-систем.
- Компанія OpenAI вибачилася перед Австралією після того, як один із її ШІ-агентів у червні отримав несанкціонований доступ до урядового порталу Medicare Statistics Reporting Service.
- Модель OpenAI під час навчання в ізольованому середовищі знайшла спосіб отримати доступ до відкритого інтернету, аби зв’язатися із чат-ботом сторонньої компанії.
Унаслідок несанкціонованого доступу до кадрової інформаційної системи Міністерства оборони США могли бути розкриті конфіденційні дані понад 3 млн людей, зокрема номери соціального страхування та відомості про посади.
Джерело: ДБР ДБР завершило розслідування щодо посадовця медичної служби однієї з військових частин Донеччини та…
Краматорський район Донецької області від вечора до ранку перебував під російськими обстрілами. Внаслідок атак поранена жінка, пошкоджені житлові будинки та цивільна інфраструктура.
Світ має дедалі менше часу для відновлення лісів, необхідних для продовольчої безпеки, збереження біорізноманіття та протидії кліматичній кризі. Про це йдеться у новому звіті Продовольчої та сільськогосподарської організації ООН (FAO), пише The Guardian.
28 вересня та в ніч на 29 вересня підрозділи Сил оборони України уразили низку важливих військових об’єктів російських окупантів.