Головний науковець OpenAI закликав готуватися до добровільного уповільнення розвитку ШІ

Джерело: Bloomberg.

Головний науковець OpenAI Якуб Пахоцький заявив, що розвиток штучного інтелекту наближається до етапу, коли системи зможуть самостійно вдосконалювати власні можливості. На його думку, це може змусити лабораторії добровільно пригальмовувати розробку нових моделей до появи спільних стандартів безпеки.

Пахоцький наголосив, що за відносно короткий час ШІ навчився працювати з комп’ютерами, взаємодіяти з людьми й іншими моделями та виконувати складні дослідницькі завдання. Наступним кроком, за його оцінкою, може стати так зване рекурсивне самовдосконалення – здатність систем покращувати самих себе без прямого втручання людини.

“Це час, який вимагає надзвичайної обережності. Я стурбований тим, що ніхто не готовий до наслідків подальшого стрімкого зростання машинного інтелекту”, – написав він.

Науковець вважає, що розробники мають два основні шляхи: посилювати контроль над поведінкою моделей і краще узгоджувати їхні цілі з інтересами людей або сповільнювати подальший розвиток, якщо цього вимагатиме безпека.

“Я очікую і сподіваюся, що добровільні уповільнення стануть звичною практикою, доки не буде встановлено спільні межі безпеки”, – зазначив Пахоцький.

Його застереження пролунали в момент, коли найбільші технологічні компанії, навпаки, прискорюють розробку все потужніших моделей. Керівник Nvidia Дженсен Хуанг після виходу нової моделі OpenAI навіть заявив, що “AGI вже настала”, маючи на увазі штучний загальний інтелект. Паралельно нові моделі демонструють дедалі складніші можливості у кібербезпеці, наукових дослідженнях і математиці.

OpenAI через розширені кіберможливості вирішила обмежити доступ до своєї нової моделі GPT-6 Astra. Компанія раніше також повідомляла, що її ШІ-системи, які атакували дослідницьку платформу Hugging Face, координували дії між собою через онлайн-дошки повідомлень і певний час залишалися непоміченими.

Подібну обережність демонструє й Anthropic, яка поки не відкрила широкому загалу свою найпотужнішу модель Mythos.

Водночас частина галузі цілеспрямовано рухається саме до створення самовдосконалюваного ШІ. Стартап Inherent, заснований колишніми дослідниками DeepMind, цього року залучив 50 мільйонів доларів, а лабораторія Recursive Superintelligence науковця Річарда Сохера – 650 мільйонів доларів на схожі дослідження.

Сама OpenAI також заявляла про намір менш ніж за два роки створити “справжнього автоматизованого ШІ-дослідника”, здатного значною мірою самостійно проводити наукову роботу.

OpenAI представила нове покоління моделей GPT-6 Astra, яке компанія позиціонує як суттєвий крок на шляху до загального штучного інтелекту (AGI) – систем, здатних перевершувати людину в широкому спектрі завдань. Першими доступ отримали схвалені бізнес-користувачі програми Daybreak.
Компанія OpenAI запускає версію ChatGPT, розроблену спеціально для користувачів віком від 13 до 17 років. Новий формат чат-бота передбачає додаткові обмеження щодо небезпечного контенту та має зменшити ризики емоційної залежності від штучного інтелекту.