«Хрещені батьки» ШІ закликали уряди готуватися до можливого «вибуху інтелекту»
Джерело: The Guardian.
Провідні дослідники штучного інтелекту, серед яких лауреат Нобелівської премії Джеффрі Хінтон і канадський науковець Йошуа Бенжіо, закликали уряди вже зараз готуватися до сценарію стрімкого самоприскорення ШІ.
У новому звіті, який також підписали співзасновник Anthropic Джек Кларк і головний науковець OpenAI Якуб Пахоцький, автори описують так званий “вибух інтелекту” – ситуацію, коли ШІ починає настільки швидко покращувати власні системи, що роки прогресу можуть уміститися в кілька місяців або навіть коротший період.
“Вибух інтелекту може стати найважливішим технологічним розвитком в історії людства, стиснувши роки прогресу до місяців або менше, поставивши під загрозу людський контроль над системами ШІ та серйозно послабивши механізми стримування влади між державами, компаніями та гілками влади”, – йдеться у звіті.
Головний ризик автори пов’язують з автоматизацією досліджень і розробки самого ШІ. Якщо системи досягнуть рівня провідних фахівців у створенні нових моделей, одна компанія теоретично зможе запустити цифрову робочу силу, еквівалентну “мільйонам” висококваліфікованих дослідників.
Такий механізм називають рекурсивним самовдосконаленням: сильніша модель допомагає створити ще сильнішу, а та – наступну. Автори наголошують, що перші елементи цього процесу вже існують. Anthropic заявляє, що ШІ генерує близько 80% коду компанії, а OpenAI використовує автономних агентів, зокрема під час навчання нових моделей.
“Попередні дані свідчать, що програмний вибух інтелекту можливий”, – зазначають дослідники.
Вони попереджають, що наслідки можуть бути двоякими. З одного боку, надпотужний ШІ може різко прискорити медичні відкриття та технологічний прогрес. З іншого – ті самі системи здатні швидше створювати біологічні або кіберзагрози, ніж люди встигатимуть розробляти захист.
Ще одна небезпека – поступова втрата людського контролю. Чим менше людей буде безпосередньо залучено до AI-досліджень, тим складніше буде втручатися в процес у разі небезпечного розвитку подій.
Автори також попереджають про геополітичний ризик: держава, яка першою отримає суттєву перевагу в таких системах, може дуже швидко перетворити невеликий технологічний відрив на домінування, зокрема у кіберпросторі.
“Щойно вибух інтелекту почнеться, вікно для дій може закритися”, – наголошують автори.
Серед пропозицій – зобов’язати AI-компанії регулярно звітувати про прогрес у дослідженнях, допускати незалежних аудиторів, обмежувати швидкість самовдосконалення моделей і створити механізми для аварійної зупинки окремих проєктів через дата-центри.
Дослідники також пропонують ізолювати системи, які автоматично розробляють ШІ, щоб вони не могли вийти з-під людського контролю, а урядам – підготувати окремі плани реагування на різні сценарії надшвидкого технологічного стрибка. За оцінкою авторів, AI-системи можуть повністю автоматизувати частину дослідницьких завдань, які сьогодні займають у людей місяці, вже до 2028 року.
“Зростання продуктивності від автоматизації AI-досліджень ще не досягло рівня, необхідного для запуску вибуху інтелекту, але новіші системи, ймовірно, вже наближаються до цього порогу”, – йдеться у звіті.
- Нобелівський лауреат Джеффрі Гінтон попередив, що зі зростанням можливостей штучного інтелекту людям буде дедалі складніше утримувати його під контролем. Його особливо занепокоїли нещодавні випадки, коли автономні ШІ-агенти залишали тестові середовища та втручалися в роботу інших систем.
- Європейська комісія вперше застосувала нові повноваження для контролю за розробниками штучного інтелекту в межах закону AI Act.
Суд у Таллінні засудив проросійського активіста Олега Беседіна до семи років позбавлення волі за діяльність, спрямовану проти незалежності, суверенітету та територіальної цілісності Естонії.
Прем’єр-міністр Лівану Наваф Салам на зустрічі з держсекретарем США Марко Рубіо закликав встановити чіткі строки виконання рамкової угоди з Ізраїлем. Бейрут домагається повного виведення ізраїльських сил і переходу всієї зброї під контроль держави.
Державна міграційна служба тимчасово припинила оформлення паспортних документів через технічну несправність обладнання оператора, який забезпечує роботу каналів зв’язку.
Саудівська Аравія відновила експорт через один із ключових нафтопроводів “Схід-Захід” після ремонту, проведеного через атаки дронів на початку вересня.
Дональд Трамп у вівторок зустрінеться з керівниками технологічних компаній, щоб обговорити, як США мають контролювати розвиток штучного інтелекту, не сповільнюючи інновації та конкуренцію з Китаєм. Про це заявив спікер Палати представників Майк Джонсон.