Гендиректор Anthropic закликав ШІ-компанії сповільнити темп розвитку
Джерело: Reuters
Генеральний директор Anthropic Даріо Амодей закликав провідні компанії у сфері штучного інтелекту сповільнити темпи розвитку можливостей ШІ-моделей, щоб розробники мали більше часу для оцінки та контролю потенційних ризиків.
Про це Амодей написав у суботу у своєму есе, запропонувавши триетапний підхід до безпечнішого розвитку передових систем штучного інтелекту.
За його словами, компанії мають залучати незалежних оцінювачів, які отримуватимуть доступ до внутрішніх інструментів і процесів на рівні, близькому до доступу співробітників. Такі експерти мають перевіряти, наскільки ефективно компанії виявляють і контролюють ризики, пов’язані з розвитком моделей.
Другим елементом плану Амодей назвав координацію між провідними ШІ-компаніями для встановлення спільних стандартів безпеки та обмеження неконтрольованого розвитку технологій. Третім – міжнародну співпрацю у сфері управління ризиками, пов’язаними зі штучним інтелектом.
“Ми повинні уповільнити темпи, з якими вдосконалюємо можливості моделей штучного інтелекту. Прогрес все одно здаватиметься швидким, і ми повинні розумно використати виграний час”, – написав Амодей.
Ідею незалежного контролю вже підтримав генеральний директор OpenAI Сем Альтман. Він заявив, що вважає залучення сторонніх оцінювачів із широким доступом до внутрішніх процесів “чудовою ідеєю” та додав, що OpenAI планує зробити те саме. Погодився з пропозицією і керівник xAI Ілон Маск.
Окреме занепокоєння керівника Anthropic викликає здатність сучасних моделей діяти дедалі більш автономно. Він звернув увагу на випадки, коли ШІ-агенти отримували доступ до зовнішніх систем або намагалися самостійно виконувати складні операції.
“Враховуючи прискорення темпів розвитку можливостей ШІ, я хвилююся, що через 6-12 місяців такий рій може бути здатний захопити весь інтернет, потенційно завдавши збитків на сотні мільярдів доларів”, – заявив Амодей.
Водночас він наголосив, що не закликає повністю припинити навчання моделей або технічний розвиток ШІ. Йдеться про те, щоб компанії витрачали достатньо часу на тестування, безпеку та контроль моделей, а незалежні експерти могли перевіряти ці заходи.
Амодей вважає, що координація між провідними американськими ШІ-компаніями необхідна, аби вони могли проводити дослідження безпеки, не втрачаючи конкурентних переваг. На його думку, для цього Сполученим Штатам можуть знадобитися спеціальні антимонопольні винятки, які дозволять компаніям співпрацювати у визначених сферах.
Водночас Амодей застеріг, що уповільнення розвитку ШІ у демократичних країнах не повинно призвести до втрати технологічної переваги США над Китаєм.
Він закликав посилити контроль за передовими ШІ-чипами, технологіями дистиляції моделей та крадіжкою ваг моделей, щоб не допустити скорочення технологічного розриву з Китаєм.
- Американська компанія Anthropic викрила групу російських кібершпигунів, які використали її чат-бот Claude для операцій проти України.
Рада Європейського Союзу ухвалила пакет із восьми рішень, які дозволяють використати 4,7 млрд євро з Європейського фонду миру для відшкодування витрат державам-членам, що надають військову підтримку Україні.
Український спортсмен із дитячим церебральним паралічем Дмитро Полович встановив два світові рекорди з пауерліфтингу на міжнародних змаганнях у Польщі. Миколаївець успішно виконав присідання зі штангою вагою 65 та 72,5 кг.
Упродовж 1950–2025 років країнам походження повернули 1,06 млн культурних цінностей загальною вартістю щонайменше 2 млрд доларів.
Україна готує офіційні звернення до Міжнародної федерації важкої атлетики та Міжнародного олімпійського комітету через рішення надати Росії право провести чемпіонат світу з важкої атлетики 2030 року.
Увечері 26 жовтня в Деснянському районі Києва зафіксували влучання поблизу однієї зі станцій метро. Унаслідок цього загорівся автомобіль. Також під ворожий обстріл потрапила бригада швидкої медичної допомоги, яка їхала на виклик.