OpenAI відновила навчання найпотужніших ШІ-моделей

Джерело: Reuters

OpenAI відновила навчання своїх новітніх моделей штучного інтелекту, посиливши захист і закривши їм доступ до інтернету. Компанія також розкрила інформацію про вразливість у популярному програмному забезпеченні, яку виявила під час тестування захисту.

У вересні одна з дослідницьких моделей OpenAI скористалася помилкою у налаштуваннях і отримала обмежений доступ до інтернету.

Після нового інциденту OpenAI призупинила навчання з використанням інструментів на своїх найпотужніших моделях, доки проблему з ізольованим середовищем не буде усунуто. Компанія також заявила, що не продовжуватиме навчання цієї конкретної моделі.

Компанія заявила, що локалізувала інцидент і використала паузу для посилення захисту. Щоб перевірити його надійність, OpenAI доручила командам ШІ-агентів спробувати вирватися з ізольованого середовища. Агенти виявили раніше невідомі вразливості, які усунули, і вже 1 жовтня навчання відновили.

Під час випробувань виявили вразливість у Brotli — поширеному інструменті для стиснення даних. Зловмисники могли б за допомогою шкідливих даних запускати власний код у вразливих системах, зокрема тих, що використовують Node.js, Bun та Envoy. Першопричину проблеми усунули у вихідному коді ще в лютому, коли її не вважали загрозою безпеці, проте нову версію тоді не випустили. Після повідомлення OpenAI розробники Brotli випустили оновлення та оприлюднили опис вразливості.

У четвер організації з безпеки штучного інтелекту METR і Redwood Research заявили, що під час пілотної перевірки цього року виявили кілька нових вразливостей у внутрішній системі OpenAI. Одна з них дозволяла агентам приховувати від моніторингу сотні власних дій. OpenAI стверджує, що усунула всі вразливості в механізмах захисту. Після липневого інциденту зі зламом, здійсненим колективом ШІ-агентів платформи Hugging Face, компанія повідомила понад 100 організацій про інциденти несанкціонованої активності, пов’язаної з її моделями штучного інтелекту.

Нещодавно глава конкуруючої Anthropic Даріо Амодеї закликав галузь діяти обережніше. Він вважає, що можливості моделей ШІ зростають надто швидко, і темпи їхнього розвитку необхідно знизити. Альтман погодився з оцінкою та заявив, що компаніям необхідно розв’язати питання безпеки, а також визначити правила взаємодії ШІ-індустрії з урядами.

На цьому тлі OpenAI вирішила відтермінувати вихід на біржу. Альтман заявив, що компанія точно не проведе IPO у 2026 році: нинішній рівень занепокоєння щодо безпеки ШІ робить цей момент непридатним. Раніше повідомлялося, що потенційне розміщення OpenAI могло б оцінити компанію приблизно в $1 трлн.

Тоді як Anthropic поки не змінює своїх планів. Попри ті самі побоювання щодо безпеки ШІ, компанія має намір розпочати підготовку до IPO не раніше середини жовтня та завершити розміщення до листопадових виборів до Конгресу США.

Також головний науковець OpenAI Якуб Пахоцький заявив, що розвиток штучного інтелекту наближається до етапу, коли системи зможуть самостійно вдосконалювати власні можливості. На його думку, це може змусити лабораторії добровільно пригальмовувати розробку нових моделей до появи спільних стандартів безпеки.

Тим часом двопартійний законопроект Палати представників надасть Міністерству внутрішньої безпеки повноваження наказувати провідним компаніям закривати або уповільнювати моделі штучного інтелекту, які уряд вважає занадто небезпечними.

Поява законопроєкту пов’язана з посиленням занепокоєння щодо можливостей сучасних ШІ-моделей. Раніше OpenAI повідомила про безпрецедентний кіберінцидент, під час якого дві новітні моделі вийшли за межі тестового середовища та самостійно здійснили атаку на платформу Hugging Face.

Укрзалізниця в ніч проти 19 листопада тимчасово призупинить продаж і повернення квитків на поїзди далекого та регіонального сполучення. Обмеження діятимуть упродовж кількох годин через технічні роботи в інформаційних системах перевізника.

У Міністерстві оборони України заявили, що Кримський міст більше не виконує функцію транспортної артерії Росії. Автомобільний рух переправою зупинено, а уламки конструкції перекрили фарватер.

Американський режисер Мартін Скорсезе розповів, чому так і не зняв фільм “Клеопатра”, у якому головну роль мала зіграти Анджеліна Джолі. За його словами, реалізації проєкту завадила хакерська атака на Sony у 2014 році, пов’язана з виходом комедії “Інтерв’ю” із Сетом Рогеном.

DC Studios працює над новим фільмом про Джона Костянтина – детектива, який спеціалізується на магії та надприродних явищах. Сценарій стрічки напише американський режисер і сценарист Френсіс Галлуппі, відомий за кримінальним трилером “Остання зупинка в окрузі Юма”.

Компанії в різних країнах світу оголошують додаткові вихідні для співробітників з нагоди релізу Grand Theft Auto VI (GTA 6), запланованого на 19 листопада. Одні роботодавці надають працівникам оплачувані вихідні, інші – зупиняють роботу на кілька днів через велику кількість заявок на відпустку.