Гендиректор Anthropic закликав ШІ-компанії сповільнити темп розвитку
Джерело: Reuters
Генеральний директор Anthropic Даріо Амодей закликав провідні компанії у сфері штучного інтелекту сповільнити темпи розвитку можливостей ШІ-моделей, щоб розробники мали більше часу для оцінки та контролю потенційних ризиків.
Про це Амодей написав у суботу у своєму есе, запропонувавши триетапний підхід до безпечнішого розвитку передових систем штучного інтелекту.
За його словами, компанії мають залучати незалежних оцінювачів, які отримуватимуть доступ до внутрішніх інструментів і процесів на рівні, близькому до доступу співробітників. Такі експерти мають перевіряти, наскільки ефективно компанії виявляють і контролюють ризики, пов’язані з розвитком моделей.
Другим елементом плану Амодей назвав координацію між провідними ШІ-компаніями для встановлення спільних стандартів безпеки та обмеження неконтрольованого розвитку технологій. Третім – міжнародну співпрацю у сфері управління ризиками, пов’язаними зі штучним інтелектом.
“Ми повинні уповільнити темпи, з якими вдосконалюємо можливості моделей штучного інтелекту. Прогрес все одно здаватиметься швидким, і ми повинні розумно використати виграний час”, – написав Амодей.
Ідею незалежного контролю вже підтримав генеральний директор OpenAI Сем Альтман. Він заявив, що вважає залучення сторонніх оцінювачів із широким доступом до внутрішніх процесів “чудовою ідеєю” та додав, що OpenAI планує зробити те саме. Погодився з пропозицією і керівник xAI Ілон Маск.
Окреме занепокоєння керівника Anthropic викликає здатність сучасних моделей діяти дедалі більш автономно. Він звернув увагу на випадки, коли ШІ-агенти отримували доступ до зовнішніх систем або намагалися самостійно виконувати складні операції.
“Враховуючи прискорення темпів розвитку можливостей ШІ, я хвилююся, що через 6-12 місяців такий рій може бути здатний захопити весь інтернет, потенційно завдавши збитків на сотні мільярдів доларів”, – заявив Амодей.
Водночас він наголосив, що не закликає повністю припинити навчання моделей або технічний розвиток ШІ. Йдеться про те, щоб компанії витрачали достатньо часу на тестування, безпеку та контроль моделей, а незалежні експерти могли перевіряти ці заходи.
Амодей вважає, що координація між провідними американськими ШІ-компаніями необхідна, аби вони могли проводити дослідження безпеки, не втрачаючи конкурентних переваг. На його думку, для цього Сполученим Штатам можуть знадобитися спеціальні антимонопольні винятки, які дозволять компаніям співпрацювати у визначених сферах.
Водночас Амодей застеріг, що уповільнення розвитку ШІ у демократичних країнах не повинно призвести до втрати технологічної переваги США над Китаєм.
Він закликав посилити контроль за передовими ШІ-чипами, технологіями дистиляції моделей та крадіжкою ваг моделей, щоб не допустити скорочення технологічного розриву з Китаєм.
- Американська компанія Anthropic викрила групу російських кібершпигунів, які використали її чат-бот Claude для операцій проти України.
Генеральний директор Anthropic Даріо Амодей закликав провідні компанії у сфері штучного інтелекту сповільнити темпи розвитку можливостей ШІ-моделей, щоб розробники мали більше часу для оцінки та контролю потенційних ризиків.
Питання ротацій військовослужбовців, які тривалий час тримають найгарячіші напрямки фронту, залишається одним із найболючіших і…
Дослідження, проведене вченими Каліфорнійського університету в Берклі за фінансування Національних інститутів здоров’я США (NIH), продемонструвало здатність семаглутиду – активного компонента препаратів Ozempic та Wegovy – помножувати ознаки біологічного старіння та збільшувати тривалість життя літніх мишей.
У неділю, 13 вересня, Україну накриють дощі, а в деяких регіонах температура повітря суттєво знизиться.
Сьогодні, 13 вересня, у Швеції відбуваються парламентські вибори, результат яких може вперше привести ультраправих “Шведських демократів” (SD) безпосередньо до складу уряду.