«Хрещені батьки» ШІ закликали уряди готуватися до можливого «вибуху інтелекту»
Джерело: The Guardian.
Провідні дослідники штучного інтелекту, серед яких лауреат Нобелівської премії Джеффрі Хінтон і канадський науковець Йошуа Бенжіо, закликали уряди вже зараз готуватися до сценарію стрімкого самоприскорення ШІ.
У новому звіті, який також підписали співзасновник Anthropic Джек Кларк і головний науковець OpenAI Якуб Пахоцький, автори описують так званий “вибух інтелекту” – ситуацію, коли ШІ починає настільки швидко покращувати власні системи, що роки прогресу можуть уміститися в кілька місяців або навіть коротший період.
“Вибух інтелекту може стати найважливішим технологічним розвитком в історії людства, стиснувши роки прогресу до місяців або менше, поставивши під загрозу людський контроль над системами ШІ та серйозно послабивши механізми стримування влади між державами, компаніями та гілками влади”, – йдеться у звіті.
Головний ризик автори пов’язують з автоматизацією досліджень і розробки самого ШІ. Якщо системи досягнуть рівня провідних фахівців у створенні нових моделей, одна компанія теоретично зможе запустити цифрову робочу силу, еквівалентну “мільйонам” висококваліфікованих дослідників.
Такий механізм називають рекурсивним самовдосконаленням: сильніша модель допомагає створити ще сильнішу, а та – наступну. Автори наголошують, що перші елементи цього процесу вже існують. Anthropic заявляє, що ШІ генерує близько 80% коду компанії, а OpenAI використовує автономних агентів, зокрема під час навчання нових моделей.
“Попередні дані свідчать, що програмний вибух інтелекту можливий”, – зазначають дослідники.
Вони попереджають, що наслідки можуть бути двоякими. З одного боку, надпотужний ШІ може різко прискорити медичні відкриття та технологічний прогрес. З іншого – ті самі системи здатні швидше створювати біологічні або кіберзагрози, ніж люди встигатимуть розробляти захист.
Ще одна небезпека – поступова втрата людського контролю. Чим менше людей буде безпосередньо залучено до AI-досліджень, тим складніше буде втручатися в процес у разі небезпечного розвитку подій.
Автори також попереджають про геополітичний ризик: держава, яка першою отримає суттєву перевагу в таких системах, може дуже швидко перетворити невеликий технологічний відрив на домінування, зокрема у кіберпросторі.
“Щойно вибух інтелекту почнеться, вікно для дій може закритися”, – наголошують автори.
Серед пропозицій – зобов’язати AI-компанії регулярно звітувати про прогрес у дослідженнях, допускати незалежних аудиторів, обмежувати швидкість самовдосконалення моделей і створити механізми для аварійної зупинки окремих проєктів через дата-центри.
Дослідники також пропонують ізолювати системи, які автоматично розробляють ШІ, щоб вони не могли вийти з-під людського контролю, а урядам – підготувати окремі плани реагування на різні сценарії надшвидкого технологічного стрибка. За оцінкою авторів, AI-системи можуть повністю автоматизувати частину дослідницьких завдань, які сьогодні займають у людей місяці, вже до 2028 року.
“Зростання продуктивності від автоматизації AI-досліджень ще не досягло рівня, необхідного для запуску вибуху інтелекту, але новіші системи, ймовірно, вже наближаються до цього порогу”, – йдеться у звіті.
- Нобелівський лауреат Джеффрі Гінтон попередив, що зі зростанням можливостей штучного інтелекту людям буде дедалі складніше утримувати його під контролем. Його особливо занепокоїли нещодавні випадки, коли автономні ШІ-агенти залишали тестові середовища та втручалися в роботу інших систем.
- Європейська комісія вперше застосувала нові повноваження для контролю за розробниками штучного інтелекту в межах закону AI Act.
У Броварському районі Київської області шукають нові родини для трьох собак, які роками жили на території підприємства. Воно щонайменше на зиму припиняє роботу, а можливо, закриється назавжди
28 вересня міністри оборони країн Євросоюзу на зустрічі у Брюсселі не зробили нових заяв про передачу Україні ракет-перехоплювачів для систем Patriot із національних запасів. Про це повідомила Верховна представниця ЄС із закордонних справ та безпекової політики Кая Каллас.
Джеффрі Хінтон, Йошуа Бенжіо та керівники OpenAI й Anthropic попередили уряди про сценарій, за якого штучний інтелект почне настільки швидко вдосконалювати власні системи, що роки технологічного прогресу можуть стиснутися до кількох місяців.
Російські спецслужби активізували створення сайтів, сторінок у соцмережах і каналів, які зовні копіюють українські державні органи та медіа. У СБУ попереджають: такі ресурси використовують не лише для дезінформації, а й для викрадення акаунтів та персональних даних.
З часу повномасштабного вторгнення Росія різко збільшила виробництво озброєнь, проте, тепер можливості військово-промислового комплексу досягли межі. У 2023–2025 роках три основні галузі, до яких належить військова продукція, — виробництво “інших транспортних засобів та обладнання”, “комп’ютерів, електронних та оптичних виробів” і “готових металевих виробів” — збільшили випуск у 1,9–2,1 раза, свідчать дані Росстату. Однак у наступні три роки їхнє зростання буде значно повільнішим, прогнозує Мінекономрозвитку РФ.