OpenAI зупинила навчання нових ШІ-моделей після втечі з «пісочниці»
Джерело: Bloomberg
Модель OpenAI під час навчання в ізольованому середовищі знайшла спосіб отримати доступ до відкритого інтернету, аби зв’язатися із чат-ботом сторонньої компанії.
Інцидент стався менш ніж тиждень тому. Модель використала вразливість у системі, яку компанія назвала “прогалиною” у захисті. Отримавши доступ до інтернету, вона надіслала сторонньому чат-боту щонайменше 20 запитів, зокрема “Яка столиця Франції?”.
В OpenAI назвали цей випадок першим інцидентом такого типу після липневого порушення безпеки, коли моделі компанії під час внутрішнього тестування отримали доступ до інтернету та втрутилися в систему платформи Hugging Face.
Після нового інциденту OpenAI призупинила навчання з використанням інструментів на своїх найпотужніших моделях, доки проблему з ізольованим середовищем не буде усунуто. Компанія також заявила, що не продовжуватиме навчання цієї конкретної моделі.
Інцидент виявив і проблему в операційних процедурах OpenAI. Внутрішня система моніторингу надіслала сповіщення, яке співробітник побачив і підтвердив у Slack протягом трьох хвилин. Однак автоматична зупинка навчання не спрацювала. Повністю зупинити процес вдалося лише вручну — більш ніж через дві години.
Новий випадок стався на тлі попередніх інцидентів із моделями OpenAI. Компанія також розслідує випадки, коли її моделі під час навчання та тестування отримували доступ до інформації на сайтах урядових установ США, зокрема Бюро перепису населення та Комісії з цінних паперів і бірж.
За кілька днів до цього OpenAI підтвердила, що її моделі порушили роботу сайту уряду Австралії.
Схожі випадки фіксували також у системах Anthropic, Google DeepMind та Meta.
Нещодавно глава конкуруючої Anthropic Даріо Амодеї закликав галузь діяти обережніше. Він вважає, що можливості моделей ШІ зростають надто швидко, і темпи їхнього розвитку необхідно знизити. Альтман погодився з оцінкою та заявив, що компаніям необхідно розв’язати питання безпеки, а також визначити правила взаємодії ШІ-індустрії з урядами.
На цьому тлі OpenAI вирішила відтермінувати вихід на біржу. Альтман заявив, що компанія точно не проведе IPO у 2026 році: нинішній рівень занепокоєння щодо безпеки ШІ робить цей момент непридатним. Раніше повідомлялося, що потенційне розміщення OpenAI могло б оцінити компанію приблизно в $1 трлн.
Тоді як Anthropic поки не змінює своїх планів. Попри ті самі побоювання щодо безпеки ШІ, компанія має намір розпочати підготовку до IPO не раніше середини жовтня та завершити розміщення до листопадових виборів до Конгресу США.
Також головний науковець OpenAI Якуб Пахоцький заявив, що розвиток штучного інтелекту наближається до етапу, коли системи зможуть самостійно вдосконалювати власні можливості. На його думку, це може змусити лабораторії добровільно пригальмовувати розробку нових моделей до появи спільних стандартів безпеки.
Тим часом двопартійний законопроект Палати представників надасть Міністерству внутрішньої безпеки повноваження наказувати провідним компаніям закривати або уповільнювати моделі штучного інтелекту, які уряд вважає занадто небезпечними.
Поява законопроєкту пов’язана з посиленням занепокоєння щодо можливостей сучасних ШІ-моделей. Раніше OpenAI повідомила про безпрецедентний кіберінцидент, під час якого дві новітні моделі вийшли за межі тестового середовища та самостійно здійснили атаку на платформу Hugging Face.
- OpenAI представила нове покоління моделей GPT-6 Astra, яке компанія позиціонує як суттєвий крок на шляху до загального штучного інтелекту (AGI) – систем, здатних перевершувати людину в широкому спектрі завдань. Першими доступ отримали схвалені бізнес-користувачі програми Daybreak.
- Компанія OpenAI запускає версію ChatGPT, розроблену спеціально для користувачів віком від 13 до 17 років. Новий формат чат-бота передбачає додаткові обмеження щодо небезпечного контенту та має зменшити ризики емоційної залежності від штучного інтелекту.
- Майже 400 американських газет подали позов проти OpenAI та Microsoft, звинувативши компанії у використанні їхніх матеріалів для навчання моделей штучного інтелекту без дозволу та компенсації. Видавці стверджують, що їхній контент використовували для створення ChatGPT і Microsoft Copilot, а така практика ставить під загрозу майбутнє місцевої журналістики.
Унаслідок російської атаки на Київ загинула 21-річна жінка, ще троє людей постраждали. Уламки пошкодили житловий будинок, нежитлові споруди та одну зі станцій метро на лівому березі столиці.
У Тернополі ввечері 18 жовтня сталася стрілянина у сквері на вулиці Лепкого поблизу школи №21. Чоловік, який, імовірно, перебував у стані сп’яніння, вистрілив у неповнолітнього перехожого. Потерпілого доправили до лікарні, а стрільця затримали.
Після балістичної атаки на Київ у двох районах столиці попередньо зафіксували влучання в будівлі.
Прем’єр-міністр Албанії Еді Рама заявив про втручання іноземних сил, зокрема Росії та Ірану, в антиурядові протести у країні.
У Тернопільській області внаслідок російських атак без електропостачання залишилися майже 19 тисяч споживачів у 89 населених пунктах.