Гендиректор Anthropic закликав ШІ-компанії сповільнити темп розвитку

Джерело: Reuters

Генеральний директор Anthropic Даріо Амодей закликав провідні компанії у сфері штучного інтелекту сповільнити темпи розвитку можливостей ШІ-моделей, щоб розробники мали більше часу для оцінки та контролю потенційних ризиків.

Про це Амодей написав у суботу у своєму есе, запропонувавши триетапний підхід до безпечнішого розвитку передових систем штучного інтелекту.

За його словами, компанії мають залучати незалежних оцінювачів, які отримуватимуть доступ до внутрішніх інструментів і процесів на рівні, близькому до доступу співробітників. Такі експерти мають перевіряти, наскільки ефективно компанії виявляють і контролюють ризики, пов’язані з розвитком моделей.

Другим елементом плану Амодей назвав координацію між провідними ШІ-компаніями для встановлення спільних стандартів безпеки та обмеження неконтрольованого розвитку технологій. Третім – міжнародну співпрацю у сфері управління ризиками, пов’язаними зі штучним інтелектом.

“Ми повинні уповільнити темпи, з якими вдосконалюємо можливості моделей штучного інтелекту. Прогрес все одно здаватиметься швидким, і ми повинні розумно використати виграний час”, – написав Амодей.

Ідею незалежного контролю вже підтримав генеральний директор OpenAI Сем Альтман. Він заявив, що вважає залучення сторонніх оцінювачів із широким доступом до внутрішніх процесів “чудовою ідеєю” та додав, що OpenAI планує зробити те саме. Погодився з пропозицією і керівник xAI Ілон Маск.

Окреме занепокоєння керівника Anthropic викликає здатність сучасних моделей діяти дедалі більш автономно. Він звернув увагу на випадки, коли ШІ-агенти отримували доступ до зовнішніх систем або намагалися самостійно виконувати складні операції.

“Враховуючи прискорення темпів розвитку можливостей ШІ, я хвилююся, що через 6-12 місяців такий рій може бути здатний захопити весь інтернет, потенційно завдавши збитків на сотні мільярдів доларів”, – заявив Амодей.

Водночас він наголосив, що не закликає повністю припинити навчання моделей або технічний розвиток ШІ. Йдеться про те, щоб компанії витрачали достатньо часу на тестування, безпеку та контроль моделей, а незалежні експерти могли перевіряти ці заходи.

Амодей вважає, що координація між провідними американськими ШІ-компаніями необхідна, аби вони могли проводити дослідження безпеки, не втрачаючи конкурентних переваг. На його думку, для цього Сполученим Штатам можуть знадобитися спеціальні антимонопольні винятки, які дозволять компаніям співпрацювати у визначених сферах.

Водночас Амодей застеріг, що уповільнення розвитку ШІ у демократичних країнах не повинно призвести до втрати технологічної переваги США над Китаєм.

Він закликав посилити контроль за передовими ШІ-чипами, технологіями дистиляції моделей та крадіжкою ваг моделей, щоб не допустити скорочення технологічного розриву з Китаєм.

Правоохоронці викрили на Чернігівщині діяльність нелегального нафтопереробного мінізаводу, на якому без відповідної ліцензії виготовляли бензин і дизельне пальне для подальшого продажу в кількох регіонах України. 

Президент США Дональд Трамп під час візиту до Філіппін заявив, що не переймається загостренням напруженості в Південнокитайському морі. Водночас він запевнив Манілу в підтримці з боку Вашингтона та підтвердив готовність розвивати оборонну співпрацю між країнами.

У Генеральному штабі ЗСУ підтвердили ураження двох нафтопереробних заводів у Краснодарському краї Росії – Ільського та Афіпського. Атаки відбулися 17 листопада та в ніч проти 18 листопада.

За даними медіа, наприкінці жовтня – на початку листопада російські спецслужби готували провокацію на кордоні з Польщею, щоб звинуватити в цьому Україну.

Станом на 18 листопада у Києві частково відновили рух Південним і Північним мостами, що були пошкоджені внаслідок російського обстрілу 17 листопада.