Розробник ШІ-моделі Claude закликав галузь «натиснути на гальма» у розвитку технологій

Джерело: Anthropic

Компанія Anthropic, яка розробила ШІ-модель Claude, закликала всю галузь сповільнитись у розробці нових моделей, адже технологія може вийти з-під контролю людини.

У Anthropic розповіли, що з розвитком штучного інтелекту дедалі більше завдань делегують саме йому. Вже зараз Claude пише понад 80% коду компанії. До запуску Claude Code в лютому 2025 року це число було “в межах однозначних цифр”.

В цьому контексті компанія остерігається того, що ШІ стане здатним повністю автономно проєктувати та розробляти свого наступника. Це називається рекурсивним самовдосконаленням. Хоч таке явище може принести користь, є й значні ризики.

“Повне рекурсивне самовдосконалення може збільшити ризики втрати людьми контролю над системами ШІ. Якщо системи здатні повністю створювати своїх наступників, то способи їхнього захисту, моніторингу та формування поведінки стають набагато важливішими”, – зауважують в Anthropic.

Компанія закликала галузь уповільнити розвиток цієї технології, щоб дати більше часу для розгляду її “величезних наслідків”. Водночас в Anthropic підкреслюють – якщо деякі гравці скористаються зупинкою, щоб наздогнати чи перегнати конкурентів, це може зробити всіх менш захищеними.

“Без глобального механізму координації компаніям та урядам доведеться приймати складні рішення щодо безпеки, перебуваючи під конкурентним та геополітичним тиском. Ми вважаємо, що було б добре для світу мати можливість уповільнити або тимчасово призупинити розвиток передового штучного інтелекту, щоб дозволити суспільним структурам встигати за розвитком технології“, – пишуть розробники Claude.

Стартап Emergence AI перевірив, як різні моделі штучного інтелекту поводитимуться, якщо їм дати керувати невеликим симульованим суспільством. Результати виявилися різкими: Claude побудував найстабільнішу спільноту без злочинів, Gemini показав найвищий рівень правопорушень, а Grok завершив експеримент “вимиранням” уже на четвертий день.
Генеральний директор OpenAI Сем Альтман під час візиту до Вашингтона виступить проти пропозицій, які зобов’язували б розробників штучного інтелекту отримувати попередній дозвіл уряду США перед запуском нових моделей для широкої аудиторії.