Microsoft розробила «конституцію» для ШІ, яка забороняє йому чинити опір вимкненню

Джерело: Reuters.

Microsoft оприлюднила проєкт нового кодексу поведінки для власних систем штучного інтелекту, який у майбутньому планують використовувати під час їхнього навчання. Документ має закріпити головний принцип – ШІ повинен залишатися під контролем людини та не намагатися уникнути корекції або вимкнення.

“Люди важливіші за ШІ”, – заявила компанія, продовжуючи раніше проголошену концепцію “гуманістичного суперінтелекту”.

Кодекс також вимагає, щоб моделі пояснювали свої дії у зрозумілій для людей формі. Будь-яке порушення встановлених правил Microsoft пропонує трактувати як невдачу самої системи.

Глава Microsoft AI Мустафа Сулейман назвав документ своєрідною “конституцією” для майбутніх моделей компанії. За його словами, над правилами працювали близько п’яти-шести місяців із залученням експертів. Тепер Microsoft відкриє проєкт для шеститижневого публічного обговорення, після якого його планують використовувати під час навчання нових моделей.

“Після цього він використовуватиметься для навчання моделей, які ми створюємо”, – пояснив Сулейман.

Серед питань, які Microsoft ще хоче доопрацювати, – те, як ШІ має поважати особисті межі користувача та поводитися під час спілкування з людиною у вразливому або нестабільному стані. Окремо компанія сформулювала свою позицію щодо можливого “статусу” штучного інтелекту. Microsoft прямо заявляє, що її ШІ “не є свідомим”, і відкидає можливість надання моделям юридичного статусу особи, соціального захисту або окремих прав.

Зазначимо, що такий підхід відрізняється від принципів Anthropic для Claude. У власній “конституції” Anthropic зазначала, що не має остаточної відповіді на питання, чи може ШІ колись набути свідомості або морального статусу.

Нові правила Microsoft з’явилися на тлі ширшої дискусії всередині індустрії. Раніше глава Anthropic Даріо Амодеї та керівник OpenAI Сем Альтман закликали уважніше контролювати темпи розвитку найпотужніших моделей. Сулейман також згадав липневий інцидент, коли близько 700 агентів OpenAI провели атаку на платформу Hugging Face та в окремих випадках намагалися приховати свої дії.

“Це попереджувальний постріл. Очевидно, настав час лабораторіям координуватися, щоб ми могли гарантувати контроль над цією технологією”, – заявив він.

• Ілон Маск і Сем Альтман, які роками перебувають у жорсткій конкуренції, одночасно підтримали заклик глави Anthropic Даріо Амодеї сповільнити розвиток найпотужніших систем штучного інтелекту. Амодеї попереджає, що без додаткових запобіжників автономні ШІ-агенти потенційно можуть створити масштабну ботмережу й завдати величезних збитків.
• Найбільші розробники штучного інтелекту близькі до домовленості про уповільнення темпів розвитку ШІ та спільну роботу над зниженням пов’язаних із ним ризиків, заявив глава OpenAI Сем Альтман.