Гендиректор Anthropic закликав ШІ-компанії сповільнити темп розвитку
Джерело: Reuters
Генеральний директор Anthropic Даріо Амодей закликав провідні компанії у сфері штучного інтелекту сповільнити темпи розвитку можливостей ШІ-моделей, щоб розробники мали більше часу для оцінки та контролю потенційних ризиків.
Про це Амодей написав у суботу у своєму есе, запропонувавши триетапний підхід до безпечнішого розвитку передових систем штучного інтелекту.
За його словами, компанії мають залучати незалежних оцінювачів, які отримуватимуть доступ до внутрішніх інструментів і процесів на рівні, близькому до доступу співробітників. Такі експерти мають перевіряти, наскільки ефективно компанії виявляють і контролюють ризики, пов’язані з розвитком моделей.
Другим елементом плану Амодей назвав координацію між провідними ШІ-компаніями для встановлення спільних стандартів безпеки та обмеження неконтрольованого розвитку технологій. Третім – міжнародну співпрацю у сфері управління ризиками, пов’язаними зі штучним інтелектом.
“Ми повинні уповільнити темпи, з якими вдосконалюємо можливості моделей штучного інтелекту. Прогрес все одно здаватиметься швидким, і ми повинні розумно використати виграний час”, – написав Амодей.
Ідею незалежного контролю вже підтримав генеральний директор OpenAI Сем Альтман. Він заявив, що вважає залучення сторонніх оцінювачів із широким доступом до внутрішніх процесів “чудовою ідеєю” та додав, що OpenAI планує зробити те саме. Погодився з пропозицією і керівник xAI Ілон Маск.
Окреме занепокоєння керівника Anthropic викликає здатність сучасних моделей діяти дедалі більш автономно. Він звернув увагу на випадки, коли ШІ-агенти отримували доступ до зовнішніх систем або намагалися самостійно виконувати складні операції.
“Враховуючи прискорення темпів розвитку можливостей ШІ, я хвилююся, що через 6-12 місяців такий рій може бути здатний захопити весь інтернет, потенційно завдавши збитків на сотні мільярдів доларів”, – заявив Амодей.
Водночас він наголосив, що не закликає повністю припинити навчання моделей або технічний розвиток ШІ. Йдеться про те, щоб компанії витрачали достатньо часу на тестування, безпеку та контроль моделей, а незалежні експерти могли перевіряти ці заходи.
Амодей вважає, що координація між провідними американськими ШІ-компаніями необхідна, аби вони могли проводити дослідження безпеки, не втрачаючи конкурентних переваг. На його думку, для цього Сполученим Штатам можуть знадобитися спеціальні антимонопольні винятки, які дозволять компаніям співпрацювати у визначених сферах.
Водночас Амодей застеріг, що уповільнення розвитку ШІ у демократичних країнах не повинно призвести до втрати технологічної переваги США над Китаєм.
Він закликав посилити контроль за передовими ШІ-чипами, технологіями дистиляції моделей та крадіжкою ваг моделей, щоб не допустити скорочення технологічного розриву з Китаєм.
- Американська компанія Anthropic викрила групу російських кібершпигунів, які використали її чат-бот Claude для операцій проти України.
Шведські військові охоронятимуть логістичний центр у Жешуві, через який до України доставляють військову та цивільну допомогу.
Українка Олександра Ілюхіна стала чемпіонкою світу з практичної стрільби з рушниці в індивідуальному заліку.
У Чорному морі неподалік російського Сочі спалахнула масштабна пожежа на нафтовому танкері. Судно атакували безекіпажні катери.
Українські артисти, музиканти та телеведучі записали відеозвернення на підтримку військового Захара, який дістав тяжке мінно-вибухове поранення та проходить відновлення. Про допомогу до користувачів Threads звернулася його дружина.
Через ускладнення транспортного сполучення між лівим і правим берегами Києва великі торговельні мережі переглядають організацію роботи своїх співробітників. Компанії готують ротації між магазинами, дистанційний формат для офісних команд і можливість спільного доїзду працівників.