У Anthropic вважають, що ймовірність того, що ШІ «може знищити все людство», перевищує 10%

Джерело: Джейкоб Коксон/X, Еван Хабінгер/X

Провідний дослідник безпеки в компанії Anthropic Еван Хабінгер попередив, що штучний інтелект розвивається дуже швидко. Він особисто вважає, що існує понад 10% ймовірності того, що ШІ “може вбити всіх людей” протягом наступного десятиліття.

Почалось усе з того, що дослідник штучного інтелекту Джейкоб Коксон звільнився з Anthropic і пов’язав це з тим, що Anthropic і OpenAI (де він працював раніше) “грають нашими життями”.

Коксон поділився новиною про звільнення в X і попередив, що світ не повинен недооцінювати “силу цієї технології”.

“Ці системи незабаром стануть надлюдськими, здатними зламати будь-що, революціонізувати будь-яку галузь за одну ніч і здобути реальну владу та ресурси. Ми всі стали свідками прогресу в кожній із цих сфер, і прогрес не сповільнюється“, – додав він.

Коксон вважає, що як Anthropic, так і OpenAI “мчать прямо до самовдосконалюваного суперінтелекту” – тобто сценарію, в якому моделі ШІ можуть автономно розробляти більш здібного наступника самих себе.

“Люди, які створюють ШІ, щиро вірять, що він може вбити нас усіх до кінця десятиліття”, – написав Коксон.

Еван Хабінгер, який залишився в Anthropic, погодився зі словами Коксона.

“Ми справді щиро віримо, що ШІ може знищити всіх людей! Я особисто вважаю, що ймовірність цього перевищує 10% протягом наступного десятиліття. Я вірю, що Anthropic докладає всіх зусиль, але у нас ще немає плану щодо розв’язання проблеми вирівнювання для суперінтелекту, і ми явно не рухаємося в правильному напрямку“, – написав він.

Раніше головний науковець OpenAI Якуб Пахоцький заявив, що розвиток штучного інтелекту наближається до етапу, коли системи зможуть самостійно вдосконалювати власні можливості. На його думку, це може змусити лабораторії добровільно пригальмовувати розробку нових моделей до появи спільних стандартів безпеки.

Європейська комісія вперше застосувала нові повноваження для контролю за розробниками штучного інтелекту в межах закону AI Act.
Генеральний директор Meta Марк Цукерберг виступив за широке поширення потужних систем штучного інтелекту та застеріг від концентрації контролю над ними в руках кількох держав чи корпорацій. Своє бачення він представив одночасно з новою відкритою моделлю Meta Muse Spark.
Нобелівський лауреат Джеффрі Гінтон попередив, що зі зростанням можливостей штучного інтелекту людям буде дедалі складніше утримувати його під контролем. Його особливо занепокоїли нещодавні випадки, коли автономні ШІ-агенти залишали тестові середовища та втручалися в роботу інших систем.