«Хрещені батьки» ШІ закликали уряди готуватися до можливого «вибуху інтелекту»

Джерело: The Guardian.

Провідні дослідники штучного інтелекту, серед яких лауреат Нобелівської премії Джеффрі Хінтон і канадський науковець Йошуа Бенжіо, закликали уряди вже зараз готуватися до сценарію стрімкого самоприскорення ШІ.

У новому звіті, який також підписали співзасновник Anthropic Джек Кларк і головний науковець OpenAI Якуб Пахоцький, автори описують так званий “вибух інтелекту” – ситуацію, коли ШІ починає настільки швидко покращувати власні системи, що роки прогресу можуть уміститися в кілька місяців або навіть коротший період.

“Вибух інтелекту може стати найважливішим технологічним розвитком в історії людства, стиснувши роки прогресу до місяців або менше, поставивши під загрозу людський контроль над системами ШІ та серйозно послабивши механізми стримування влади між державами, компаніями та гілками влади”, – йдеться у звіті.

Головний ризик автори пов’язують з автоматизацією досліджень і розробки самого ШІ. Якщо системи досягнуть рівня провідних фахівців у створенні нових моделей, одна компанія теоретично зможе запустити цифрову робочу силу, еквівалентну “мільйонам” висококваліфікованих дослідників.

Такий механізм називають рекурсивним самовдосконаленням: сильніша модель допомагає створити ще сильнішу, а та – наступну. Автори наголошують, що перші елементи цього процесу вже існують. Anthropic заявляє, що ШІ генерує близько 80% коду компанії, а OpenAI використовує автономних агентів, зокрема під час навчання нових моделей.

“Попередні дані свідчать, що програмний вибух інтелекту можливий”, – зазначають дослідники.

Вони попереджають, що наслідки можуть бути двоякими. З одного боку, надпотужний ШІ може різко прискорити медичні відкриття та технологічний прогрес. З іншого – ті самі системи здатні швидше створювати біологічні або кіберзагрози, ніж люди встигатимуть розробляти захист.

Ще одна небезпека – поступова втрата людського контролю. Чим менше людей буде безпосередньо залучено до AI-досліджень, тим складніше буде втручатися в процес у разі небезпечного розвитку подій.

Автори також попереджають про геополітичний ризик: держава, яка першою отримає суттєву перевагу в таких системах, може дуже швидко перетворити невеликий технологічний відрив на домінування, зокрема у кіберпросторі.

“Щойно вибух інтелекту почнеться, вікно для дій може закритися”, – наголошують автори.

Серед пропозицій – зобов’язати AI-компанії регулярно звітувати про прогрес у дослідженнях, допускати незалежних аудиторів, обмежувати швидкість самовдосконалення моделей і створити механізми для аварійної зупинки окремих проєктів через дата-центри.

Дослідники також пропонують ізолювати системи, які автоматично розробляють ШІ, щоб вони не могли вийти з-під людського контролю, а урядам – підготувати окремі плани реагування на різні сценарії надшвидкого технологічного стрибка. За оцінкою авторів, AI-системи можуть повністю автоматизувати частину дослідницьких завдань, які сьогодні займають у людей місяці, вже до 2028 року.

“Зростання продуктивності від автоматизації AI-досліджень ще не досягло рівня, необхідного для запуску вибуху інтелекту, але новіші системи, ймовірно, вже наближаються до цього порогу”, – йдеться у звіті.

Нобелівський лауреат Джеффрі Гінтон попередив, що зі зростанням можливостей штучного інтелекту людям буде дедалі складніше утримувати його під контролем. Його особливо занепокоїли нещодавні випадки, коли автономні ШІ-агенти залишали тестові середовища та втручалися в роботу інших систем.
Європейська комісія вперше застосувала нові повноваження для контролю за розробниками штучного інтелекту в межах закону AI Act.