У Anthropic вважають, що ймовірність того, що ШІ «може знищити все людство», перевищує 10%
Джерело: Джейкоб Коксон/X, Еван Хабінгер/X
Провідний дослідник безпеки в компанії Anthropic Еван Хабінгер попередив, що штучний інтелект розвивається дуже швидко. Він особисто вважає, що існує понад 10% ймовірності того, що ШІ “може вбити всіх людей” протягом наступного десятиліття.
Почалось усе з того, що дослідник штучного інтелекту Джейкоб Коксон звільнився з Anthropic і пов’язав це з тим, що Anthropic і OpenAI (де він працював раніше) “грають нашими життями”.
Коксон поділився новиною про звільнення в X і попередив, що світ не повинен недооцінювати “силу цієї технології”.
“Ці системи незабаром стануть надлюдськими, здатними зламати будь-що, революціонізувати будь-яку галузь за одну ніч і здобути реальну владу та ресурси. Ми всі стали свідками прогресу в кожній із цих сфер, і прогрес не сповільнюється“, – додав він.
Коксон вважає, що як Anthropic, так і OpenAI “мчать прямо до самовдосконалюваного суперінтелекту” – тобто сценарію, в якому моделі ШІ можуть автономно розробляти більш здібного наступника самих себе.
“Люди, які створюють ШІ, щиро вірять, що він може вбити нас усіх до кінця десятиліття”, – написав Коксон.
Еван Хабінгер, який залишився в Anthropic, погодився зі словами Коксона.
“Ми справді щиро віримо, що ШІ може знищити всіх людей! Я особисто вважаю, що ймовірність цього перевищує 10% протягом наступного десятиліття. Я вірю, що Anthropic докладає всіх зусиль, але у нас ще немає плану щодо розв’язання проблеми вирівнювання для суперінтелекту, і ми явно не рухаємося в правильному напрямку“, – написав він.
Раніше головний науковець OpenAI Якуб Пахоцький заявив, що розвиток штучного інтелекту наближається до етапу, коли системи зможуть самостійно вдосконалювати власні можливості. На його думку, це може змусити лабораторії добровільно пригальмовувати розробку нових моделей до появи спільних стандартів безпеки.
- Європейська комісія вперше застосувала нові повноваження для контролю за розробниками штучного інтелекту в межах закону AI Act.
- Генеральний директор Meta Марк Цукерберг виступив за широке поширення потужних систем штучного інтелекту та застеріг від концентрації контролю над ними в руках кількох держав чи корпорацій. Своє бачення він представив одночасно з новою відкритою моделлю Meta Muse Spark.
- Нобелівський лауреат Джеффрі Гінтон попередив, що зі зростанням можливостей штучного інтелекту людям буде дедалі складніше утримувати його під контролем. Його особливо занепокоїли нещодавні випадки, коли автономні ШІ-агенти залишали тестові середовища та втручалися в роботу інших систем.
Канцлер Німеччини Фрідріх Мерц заявив, що ультраправа партія “Альтернатива для Німеччини” (AfD) фактично стоїть на боці Росії у війні проти України. Він назвав позицію партії “гротескною підміною” агресора і жертви.
У Генеральному штабі ЗСУ підтвердили, що протягом 8 вересня та в ніч на 9 вересня підрозділи Сил оборони України уразили низку важливих об’єктів росіян, зокрема місце запуску ударних БпЛА, катер “Мангуст”, засоби розвідки та склади.
Провідний дослідник безпеки в компанії Anthropic Еван Хабінгер попередив, що штучний інтелект розвивається дуже швидко. Він особисто вважає, що існує понад 10% ймовірності того, що ШІ “може вбити всіх людей” протягом наступного десятиліття.
Міністр внутрішніх справ німецької землі Баден-Вюртемберг Мануель Хагель відвідав Київ у складі делегації та на власному досвіді відчув наслідки російської війни проти України.
Німеччина долучається до реалізації проєкту Купол над містом (City Dome), щоб захистити українські міста.