Головний науковець OpenAI закликав готуватися до добровільного уповільнення розвитку ШІ
Джерело: Bloomberg.
Головний науковець OpenAI Якуб Пахоцький заявив, що розвиток штучного інтелекту наближається до етапу, коли системи зможуть самостійно вдосконалювати власні можливості. На його думку, це може змусити лабораторії добровільно пригальмовувати розробку нових моделей до появи спільних стандартів безпеки.
Пахоцький наголосив, що за відносно короткий час ШІ навчився працювати з комп’ютерами, взаємодіяти з людьми й іншими моделями та виконувати складні дослідницькі завдання. Наступним кроком, за його оцінкою, може стати так зване рекурсивне самовдосконалення – здатність систем покращувати самих себе без прямого втручання людини.
“Це час, який вимагає надзвичайної обережності. Я стурбований тим, що ніхто не готовий до наслідків подальшого стрімкого зростання машинного інтелекту”, – написав він.
Науковець вважає, що розробники мають два основні шляхи: посилювати контроль над поведінкою моделей і краще узгоджувати їхні цілі з інтересами людей або сповільнювати подальший розвиток, якщо цього вимагатиме безпека.
“Я очікую і сподіваюся, що добровільні уповільнення стануть звичною практикою, доки не буде встановлено спільні межі безпеки”, – зазначив Пахоцький.
Його застереження пролунали в момент, коли найбільші технологічні компанії, навпаки, прискорюють розробку все потужніших моделей. Керівник Nvidia Дженсен Хуанг після виходу нової моделі OpenAI навіть заявив, що “AGI вже настала”, маючи на увазі штучний загальний інтелект. Паралельно нові моделі демонструють дедалі складніші можливості у кібербезпеці, наукових дослідженнях і математиці.
OpenAI через розширені кіберможливості вирішила обмежити доступ до своєї нової моделі GPT-6 Astra. Компанія раніше також повідомляла, що її ШІ-системи, які атакували дослідницьку платформу Hugging Face, координували дії між собою через онлайн-дошки повідомлень і певний час залишалися непоміченими.
Подібну обережність демонструє й Anthropic, яка поки не відкрила широкому загалу свою найпотужнішу модель Mythos.
Водночас частина галузі цілеспрямовано рухається саме до створення самовдосконалюваного ШІ. Стартап Inherent, заснований колишніми дослідниками DeepMind, цього року залучив 50 мільйонів доларів, а лабораторія Recursive Superintelligence науковця Річарда Сохера – 650 мільйонів доларів на схожі дослідження.
Сама OpenAI також заявляла про намір менш ніж за два роки створити “справжнього автоматизованого ШІ-дослідника”, здатного значною мірою самостійно проводити наукову роботу.
- OpenAI представила нове покоління моделей GPT-6 Astra, яке компанія позиціонує як суттєвий крок на шляху до загального штучного інтелекту (AGI) – систем, здатних перевершувати людину в широкому спектрі завдань. Першими доступ отримали схвалені бізнес-користувачі програми Daybreak.
- Компанія OpenAI запускає версію ChatGPT, розроблену спеціально для користувачів віком від 13 до 17 років. Новий формат чат-бота передбачає додаткові обмеження щодо небезпечного контенту та має зменшити ризики емоційної залежності від штучного інтелекту.
апередодні 25-х роковин терактів 11 вересня у Нью-Йорку загострилася суперечка навколо участі мера Зохрана Мамдані у меморіальних заходах. Колишній мер Руді Джуліані та ексгубернатор Джордж Патакі закликали його не приходити, тоді як губернаторка Кеті Хокул заявила, що мер міста має бути присутнім.
Головний науковець OpenAI Якуб Пахоцький попередив, що розвиток штучного інтелекту наближається до етапу, коли системи зможуть удосконалювати себе без безпосереднього втручання людини. Він очікує, що через ризики лабораторії дедалі частіше добровільно пригальмовуватимуть розробку моделей.
Єврокомісія готує новий механізм для зменшення залежності європейських компаній від китайських постачальників критичної сировини та компонентів. 18 вересня єврокомісар з питань торгівлі Марош Шефчович має обговорити цю ідею з керівниками провідних компаній.
Українська команда екстреної медичної допомоги показала найвищий результат серед усіх 13 учасників чемпіонату EMSNOR26 у Норвегії. Вона набрала 1107 балів і окремо отримала титул Best International Team.
Генеральний прокурор подав заяву про відставку та назвав це свідомим політичним рішенням. Він заявив, що не хоче, аби посаду очільника прокуратури використовували як інструмент політичного протистояння.