«Хрещені батьки» ШІ закликали уряди готуватися до можливого «вибуху інтелекту»
Джерело: The Guardian.
Провідні дослідники штучного інтелекту, серед яких лауреат Нобелівської премії Джеффрі Хінтон і канадський науковець Йошуа Бенжіо, закликали уряди вже зараз готуватися до сценарію стрімкого самоприскорення ШІ.
У новому звіті, який також підписали співзасновник Anthropic Джек Кларк і головний науковець OpenAI Якуб Пахоцький, автори описують так званий “вибух інтелекту” – ситуацію, коли ШІ починає настільки швидко покращувати власні системи, що роки прогресу можуть уміститися в кілька місяців або навіть коротший період.
“Вибух інтелекту може стати найважливішим технологічним розвитком в історії людства, стиснувши роки прогресу до місяців або менше, поставивши під загрозу людський контроль над системами ШІ та серйозно послабивши механізми стримування влади між державами, компаніями та гілками влади”, – йдеться у звіті.
Головний ризик автори пов’язують з автоматизацією досліджень і розробки самого ШІ. Якщо системи досягнуть рівня провідних фахівців у створенні нових моделей, одна компанія теоретично зможе запустити цифрову робочу силу, еквівалентну “мільйонам” висококваліфікованих дослідників.
Такий механізм називають рекурсивним самовдосконаленням: сильніша модель допомагає створити ще сильнішу, а та – наступну. Автори наголошують, що перші елементи цього процесу вже існують. Anthropic заявляє, що ШІ генерує близько 80% коду компанії, а OpenAI використовує автономних агентів, зокрема під час навчання нових моделей.
“Попередні дані свідчать, що програмний вибух інтелекту можливий”, – зазначають дослідники.
Вони попереджають, що наслідки можуть бути двоякими. З одного боку, надпотужний ШІ може різко прискорити медичні відкриття та технологічний прогрес. З іншого – ті самі системи здатні швидше створювати біологічні або кіберзагрози, ніж люди встигатимуть розробляти захист.
Ще одна небезпека – поступова втрата людського контролю. Чим менше людей буде безпосередньо залучено до AI-досліджень, тим складніше буде втручатися в процес у разі небезпечного розвитку подій.
Автори також попереджають про геополітичний ризик: держава, яка першою отримає суттєву перевагу в таких системах, може дуже швидко перетворити невеликий технологічний відрив на домінування, зокрема у кіберпросторі.
“Щойно вибух інтелекту почнеться, вікно для дій може закритися”, – наголошують автори.
Серед пропозицій – зобов’язати AI-компанії регулярно звітувати про прогрес у дослідженнях, допускати незалежних аудиторів, обмежувати швидкість самовдосконалення моделей і створити механізми для аварійної зупинки окремих проєктів через дата-центри.
Дослідники також пропонують ізолювати системи, які автоматично розробляють ШІ, щоб вони не могли вийти з-під людського контролю, а урядам – підготувати окремі плани реагування на різні сценарії надшвидкого технологічного стрибка. За оцінкою авторів, AI-системи можуть повністю автоматизувати частину дослідницьких завдань, які сьогодні займають у людей місяці, вже до 2028 року.
“Зростання продуктивності від автоматизації AI-досліджень ще не досягло рівня, необхідного для запуску вибуху інтелекту, але новіші системи, ймовірно, вже наближаються до цього порогу”, – йдеться у звіті.
- Нобелівський лауреат Джеффрі Гінтон попередив, що зі зростанням можливостей штучного інтелекту людям буде дедалі складніше утримувати його під контролем. Його особливо занепокоїли нещодавні випадки, коли автономні ШІ-агенти залишали тестові середовища та втручалися в роботу інших систем.
- Європейська комісія вперше застосувала нові повноваження для контролю за розробниками штучного інтелекту в межах закону AI Act.
У румунському повіті Бузеу виявили уламки невідомого безпілотника. Походження літального апарата наразі встановлюють фахівці Міністерства оборони та Служби розвідки Румунії.
Федеральний канцлер Німеччини Фрідріх Мерц виключив можливість капітуляції України на тлі тиску США на Київ. За його словами, ФРН спільно з іншими європейськими країнами готові до переговорів у будь-який момент.
Вранці 21 жовтня російські окупанти знову атакували газовидобувну інфраструктуру Групи Нафтогаз на Харківщині.
В Угорщині затримали колишнього голову Нацбанку Дьєрдя Матольчі за підозрою в економічному шахрайстві, що завдало значних фінансових збитків, а також у використанні підробленого документа.
Сили оборони України 20 жовтня та в ніч на 21 жовтня уразили пункти управління російських військ поблизу Луганська та Курахового на Донеччині, а також склади матеріально-технічних засобів противника в окупованому Криму й на Донеччині.