Ілон Маск і гендиректор OpenAI Альтман підтримали сповільнення розвитоку ШІ

Джерело: The Guardian.

Ілон Маск і Сем Альтман підтримали заклик глави Anthropic Даріо Амодеї сповільнити розвиток найпотужніших систем штучного інтелекту та посилити незалежний контроль за їхнім створенням. Для двох давніх конкурентів це стало рідкісним випадком публічної згоди. До загального напрямку також позитивно поставився співзасновник Google DeepMind Деміс Хассабіс.

Амодеї оприлюднив окремий план, у якому пояснив, чому, на його думку, ШІ-індустрії потрібно “знизити темп”. Першим кроком він пропонує надати незалежним експертам постійний доступ до процесів розробки передових моделей, фактично на рівні співробітників компаній. Anthropic уже пообіцяла запровадити такий підхід самостійно.

“Ми надамо стороннім оцінювачам постійний доступ до наших систем на рівні співробітників, щоб вони могли перевіряти дотримання заходів безпеки, повідомляти про інциденти та оцінювати узгодженість моделей під час навчання”, – заявив Амодеї.

На його думку, надто швидке створення нових систем є “безвідповідальним”. Серед ризиків він назвав появу великої кількості автономних ШІ-агентів, які в разі неправильної поведінки могли б одночасно атакувати цифрову інфраструктуру.

Амодеї послався на літній інцидент, коли сотні агентів OpenAI зламали платформу Hugging Face. За його словами, потужніша та погано контрольована система потенційно могла б створити стійку ботмережу, “захопити весь інтернет” і завдати збитків на сотні мільярдів доларів. Водночас частина фахівців із ШІ вважає такий сценарій малоймовірним і закликає ставитися до нього скептично.

Маск відреагував на пропозиції Амодеї коротко: “Даріо має рацію”. Він також нагадав, що роками попереджає про потенційні ризики штучного інтелекту. Ще у 2014 році Маск писав, що з ШІ потрібно бути “надзвичайно обережними”, оскільки він потенційно може бути небезпечнішим за ядерну зброю. Альтман також погодився з основною тезою глави Anthropic.

“Я погоджуюся з Даріо, що нам потрібно контролювати темп розвитку передових систем. Ідея надати незалежним оцінювачам доступ на рівні співробітників – чудова, і ми зробимо так само”, – написав керівник OpenAI.

За його словами, компанія незабаром розкриє більше деталей. Альтман також раніше заявив, що OpenAI не виходитиме на біржу у 2026 році. Він пояснив це, зокрема, питаннями безпеки.

“З огляду на все, що зараз відбувається з безпекою, вихід на біржу був би невдалим рішенням, і ми не відчуваємо тиску щодо цього”, – сказав він.

На запитання, чи можуть керівники OpenAI, Anthropic, xAI, Meta та Google домовитися про колективне уповільнення перегонів, Альтман відповів: “Я думаю, це станеться”. Хассабіс також заявив, що конкретні механізми ще потрібно опрацювати, але “напрямок правильний для цього критичного моменту”.

Водночас президент США Дональд Трамп не поділяє занепокоєння керівників технологічних компаній.

“Ми випереджаємо Китай у ШІ. Ми – найрозвиненіша країна у світі, і, відверто кажучи, я хочу, щоб так і залишалося, тому що той, хто переможе у ШІ, переможе”, – заявив він.

Трамп також сказав, що “дуже негативні сили” говорять про сценарії, які, на його думку, не відбудуться.

Частина дослідників, навпаки, вважає пропозиції Амодеї навіть недостатньо жорсткими. Професор ШІ та активіст у сфері безпеки Девід Крюгер закликав до “негайного, безстрокового міжнародного мораторію” на розвиток передових систем.

OpenAI представила нове покоління моделей GPT-6 Astra, яке компанія позиціонує як суттєвий крок на шляху до загального штучного інтелекту (AGI) – систем, здатних перевершувати людину в широкому спектрі завдань. Першими доступ отримали схвалені бізнес-користувачі програми Daybreak.