Гендиректор Anthropic закликав ШІ-компанії сповільнити темп розвитку
Джерело: Reuters
Генеральний директор Anthropic Даріо Амодей закликав провідні компанії у сфері штучного інтелекту сповільнити темпи розвитку можливостей ШІ-моделей, щоб розробники мали більше часу для оцінки та контролю потенційних ризиків.
Про це Амодей написав у суботу у своєму есе, запропонувавши триетапний підхід до безпечнішого розвитку передових систем штучного інтелекту.
За його словами, компанії мають залучати незалежних оцінювачів, які отримуватимуть доступ до внутрішніх інструментів і процесів на рівні, близькому до доступу співробітників. Такі експерти мають перевіряти, наскільки ефективно компанії виявляють і контролюють ризики, пов’язані з розвитком моделей.
Другим елементом плану Амодей назвав координацію між провідними ШІ-компаніями для встановлення спільних стандартів безпеки та обмеження неконтрольованого розвитку технологій. Третім – міжнародну співпрацю у сфері управління ризиками, пов’язаними зі штучним інтелектом.
“Ми повинні уповільнити темпи, з якими вдосконалюємо можливості моделей штучного інтелекту. Прогрес все одно здаватиметься швидким, і ми повинні розумно використати виграний час”, – написав Амодей.
Ідею незалежного контролю вже підтримав генеральний директор OpenAI Сем Альтман. Він заявив, що вважає залучення сторонніх оцінювачів із широким доступом до внутрішніх процесів “чудовою ідеєю” та додав, що OpenAI планує зробити те саме. Погодився з пропозицією і керівник xAI Ілон Маск.
Окреме занепокоєння керівника Anthropic викликає здатність сучасних моделей діяти дедалі більш автономно. Він звернув увагу на випадки, коли ШІ-агенти отримували доступ до зовнішніх систем або намагалися самостійно виконувати складні операції.
“Враховуючи прискорення темпів розвитку можливостей ШІ, я хвилююся, що через 6-12 місяців такий рій може бути здатний захопити весь інтернет, потенційно завдавши збитків на сотні мільярдів доларів”, – заявив Амодей.
Водночас він наголосив, що не закликає повністю припинити навчання моделей або технічний розвиток ШІ. Йдеться про те, щоб компанії витрачали достатньо часу на тестування, безпеку та контроль моделей, а незалежні експерти могли перевіряти ці заходи.
Амодей вважає, що координація між провідними американськими ШІ-компаніями необхідна, аби вони могли проводити дослідження безпеки, не втрачаючи конкурентних переваг. На його думку, для цього Сполученим Штатам можуть знадобитися спеціальні антимонопольні винятки, які дозволять компаніям співпрацювати у визначених сферах.
Водночас Амодей застеріг, що уповільнення розвитку ШІ у демократичних країнах не повинно призвести до втрати технологічної переваги США над Китаєм.
Він закликав посилити контроль за передовими ШІ-чипами, технологіями дистиляції моделей та крадіжкою ваг моделей, щоб не допустити скорочення технологічного розриву з Китаєм.
- Американська компанія Anthropic викрила групу російських кібершпигунів, які використали її чат-бот Claude для операцій проти України.
Міжнародна група дослідників з Німеччини встановила, що поверхня Меркурія містить набагато менше діоксиду кремнію, ніж вважалося раніше. Це відкриття свідчить про те, що у своєму далекому минулому найменша планета Сонячної системи мала значно гарячіші та глибші джерела вулканічної активності.
Вплив світла вночі може бути пов’язаний зі змінами структури та функції серця. Такого висновку дійшли дослідники, які проаналізували дані понад 11 тисяч людей.
Грег Деніелс, який адаптував культовий комедійний серіал “Офіс” для американського телебачення, виступив проти класичного відродження шоу з оригінальним акторським складом.
Генеральний директор Anthropic Даріо Амодей закликав провідні компанії у сфері штучного інтелекту сповільнити темпи розвитку можливостей ШІ-моделей, щоб розробники мали більше часу для оцінки та контролю потенційних ризиків.
Питання ротацій військовослужбовців, які тривалий час тримають найгарячіші напрямки фронту, залишається одним із найболючіших і…