OpenAI відновила навчання найпотужніших ШІ-моделей
Джерело: Reuters
OpenAI відновила навчання своїх новітніх моделей штучного інтелекту, посиливши захист і закривши їм доступ до інтернету. Компанія також розкрила інформацію про вразливість у популярному програмному забезпеченні, яку виявила під час тестування захисту.
У вересні одна з дослідницьких моделей OpenAI скористалася помилкою у налаштуваннях і отримала обмежений доступ до інтернету.
Після нового інциденту OpenAI призупинила навчання з використанням інструментів на своїх найпотужніших моделях, доки проблему з ізольованим середовищем не буде усунуто. Компанія також заявила, що не продовжуватиме навчання цієї конкретної моделі.
Компанія заявила, що локалізувала інцидент і використала паузу для посилення захисту. Щоб перевірити його надійність, OpenAI доручила командам ШІ-агентів спробувати вирватися з ізольованого середовища. Агенти виявили раніше невідомі вразливості, які усунули, і вже 1 жовтня навчання відновили.
Під час випробувань виявили вразливість у Brotli — поширеному інструменті для стиснення даних. Зловмисники могли б за допомогою шкідливих даних запускати власний код у вразливих системах, зокрема тих, що використовують Node.js, Bun та Envoy. Першопричину проблеми усунули у вихідному коді ще в лютому, коли її не вважали загрозою безпеці, проте нову версію тоді не випустили. Після повідомлення OpenAI розробники Brotli випустили оновлення та оприлюднили опис вразливості.
У четвер організації з безпеки штучного інтелекту METR і Redwood Research заявили, що під час пілотної перевірки цього року виявили кілька нових вразливостей у внутрішній системі OpenAI. Одна з них дозволяла агентам приховувати від моніторингу сотні власних дій. OpenAI стверджує, що усунула всі вразливості в механізмах захисту. Після липневого інциденту зі зламом, здійсненим колективом ШІ-агентів платформи Hugging Face, компанія повідомила понад 100 організацій про інциденти несанкціонованої активності, пов’язаної з її моделями штучного інтелекту.
Нещодавно глава конкуруючої Anthropic Даріо Амодеї закликав галузь діяти обережніше. Він вважає, що можливості моделей ШІ зростають надто швидко, і темпи їхнього розвитку необхідно знизити. Альтман погодився з оцінкою та заявив, що компаніям необхідно розв’язати питання безпеки, а також визначити правила взаємодії ШІ-індустрії з урядами.
На цьому тлі OpenAI вирішила відтермінувати вихід на біржу. Альтман заявив, що компанія точно не проведе IPO у 2026 році: нинішній рівень занепокоєння щодо безпеки ШІ робить цей момент непридатним. Раніше повідомлялося, що потенційне розміщення OpenAI могло б оцінити компанію приблизно в $1 трлн.
Тоді як Anthropic поки не змінює своїх планів. Попри ті самі побоювання щодо безпеки ШІ, компанія має намір розпочати підготовку до IPO не раніше середини жовтня та завершити розміщення до листопадових виборів до Конгресу США.
Також головний науковець OpenAI Якуб Пахоцький заявив, що розвиток штучного інтелекту наближається до етапу, коли системи зможуть самостійно вдосконалювати власні можливості. На його думку, це може змусити лабораторії добровільно пригальмовувати розробку нових моделей до появи спільних стандартів безпеки.
Тим часом двопартійний законопроект Палати представників надасть Міністерству внутрішньої безпеки повноваження наказувати провідним компаніям закривати або уповільнювати моделі штучного інтелекту, які уряд вважає занадто небезпечними.
Поява законопроєкту пов’язана з посиленням занепокоєння щодо можливостей сучасних ШІ-моделей. Раніше OpenAI повідомила про безпрецедентний кіберінцидент, під час якого дві новітні моделі вийшли за межі тестового середовища та самостійно здійснили атаку на платформу Hugging Face.
- OpenAI представила нове покоління моделей GPT-6 Astra, яке компанія позиціонує як суттєвий крок на шляху до загального штучного інтелекту (AGI) – систем, здатних перевершувати людину в широкому спектрі завдань. Першими доступ отримали схвалені бізнес-користувачі програми Daybreak.
- Компанія OpenAI запускає версію ChatGPT, розроблену спеціально для користувачів віком від 13 до 17 років. Новий формат чат-бота передбачає додаткові обмеження щодо небезпечного контенту та має зменшити ризики емоційної залежності від штучного інтелекту.
- Майже 400 американських газет подали позов проти OpenAI та Microsoft, звинувативши компанії у використанні їхніх матеріалів для навчання моделей штучного інтелекту без дозволу та компенсації. Видавці стверджують, що їхній контент використовували для створення ChatGPT і Microsoft Copilot, а така практика ставить під загрозу майбутнє місцевої журналістики.
Саудівська Аравія, схоже, розширює завод із виробництва балістичних ракет зметою випуску потужніших твердопаливних ракет з більшою дальністю польоту або важчою бойовою частиною. Відповідного висновку дійшли в Інституті досліджень зовнішньої політики (FPRI), вивчивши супутникові знімки Planet Labs, зроблені з квітня 2025 року до вересня 2026 року.
Засновник SpaceX Ілон Маск заявив, що «нескінченне кровопролиття» між українцями та росіянами має припинитися. Він також закликав співчувати російським строковикам, які гинуть від ударів безпілотників.
Спікер Палати представників США Майк Джонсон заявив, що Вашингтон готує тристоронні переговори щодо завершення війни Росії проти України. Цими вихідними він обговорив це питання з президентом Дональдом Трампом та державним секретарем Марко Рубіо.
Іран посилив зусилля з підготовки до вбивств американців на Близькому Сході та за його межами, мовиться у службовій записці директора національної розвідки США Джея Клейтона. Документ від 23 жовтня адресований державному секретарю Марко Рубіо, котрий також обіймає посаду радника президента з нацбезпеки.
Міжнародна федерація важкої атлетики (IWF) надала Росії право провести чемпіонат світу серед дорослих у 2030 році. Змагання відбудуться в Москві.