Microsoft розробила «конституцію» для ШІ, яка забороняє йому чинити опір вимкненню
Джерело: Reuters.
Microsoft оприлюднила проєкт нового кодексу поведінки для власних систем штучного інтелекту, який у майбутньому планують використовувати під час їхнього навчання. Документ має закріпити головний принцип – ШІ повинен залишатися під контролем людини та не намагатися уникнути корекції або вимкнення.
“Люди важливіші за ШІ”, – заявила компанія, продовжуючи раніше проголошену концепцію “гуманістичного суперінтелекту”.
Кодекс також вимагає, щоб моделі пояснювали свої дії у зрозумілій для людей формі. Будь-яке порушення встановлених правил Microsoft пропонує трактувати як невдачу самої системи.
Глава Microsoft AI Мустафа Сулейман назвав документ своєрідною “конституцією” для майбутніх моделей компанії. За його словами, над правилами працювали близько п’яти-шести місяців із залученням експертів. Тепер Microsoft відкриє проєкт для шеститижневого публічного обговорення, після якого його планують використовувати під час навчання нових моделей.
“Після цього він використовуватиметься для навчання моделей, які ми створюємо”, – пояснив Сулейман.
Серед питань, які Microsoft ще хоче доопрацювати, – те, як ШІ має поважати особисті межі користувача та поводитися під час спілкування з людиною у вразливому або нестабільному стані. Окремо компанія сформулювала свою позицію щодо можливого “статусу” штучного інтелекту. Microsoft прямо заявляє, що її ШІ “не є свідомим”, і відкидає можливість надання моделям юридичного статусу особи, соціального захисту або окремих прав.
Зазначимо, що такий підхід відрізняється від принципів Anthropic для Claude. У власній “конституції” Anthropic зазначала, що не має остаточної відповіді на питання, чи може ШІ колись набути свідомості або морального статусу.
Нові правила Microsoft з’явилися на тлі ширшої дискусії всередині індустрії. Раніше глава Anthropic Даріо Амодеї та керівник OpenAI Сем Альтман закликали уважніше контролювати темпи розвитку найпотужніших моделей. Сулейман також згадав липневий інцидент, коли близько 700 агентів OpenAI провели атаку на платформу Hugging Face та в окремих випадках намагалися приховати свої дії.
“Це попереджувальний постріл. Очевидно, настав час лабораторіям координуватися, щоб ми могли гарантувати контроль над цією технологією”, – заявив він.
- Ілон Маск і Сем Альтман, які роками перебувають у жорсткій конкуренції, одночасно підтримали заклик глави Anthropic Даріо Амодеї сповільнити розвиток найпотужніших систем штучного інтелекту. Амодеї попереджає, що без додаткових запобіжників автономні ШІ-агенти потенційно можуть створити масштабну ботмережу й завдати величезних збитків.
- Найбільші розробники штучного інтелекту близькі до домовленості про уповільнення темпів розвитку ШІ та спільну роботу над зниженням пов’язаних із ним ризиків, заявив глава OpenAI Сем Альтман.
Директор НАБУ Семен Кривонос та керівник САП Олександр Клименко заявили про “безпрецедентну атаку” на антикорупційні органи. Вони пов’язують її з діяльністю НАБУ і САП та, зокрема, з операцією “Карфаген”.
Microsoft представила проєкт кодексу поведінки для власних систем штучного інтелекту, який має закріпити їхню підконтрольність людині. Серед ключових принципів – ШІ не повинен чинити опір виправленню або вимкненню.
Низький рівень вітаміну D може бути пов’язаний із сильнішим болем і більшою потребою в опіоїдних знеболювальних після операції з приводу раку молочної залози. Такого висновку дійшли дослідники, які спостерігали за 184 пацієнтками після мастектомії.
Президент Володимир Зеленський заявив, що Україна прискорює роботу над новим поколінням перехоплювачів, призначених для протидії російським реактивним “шахедам”.
Польські військові підняли з Балтійського моря військовий дрон російського походження у районі пляжу в Русинові.