Розробник ШІ-моделі Claude закликав галузь «натиснути на гальма» у розвитку технологій
Джерело: Anthropic
Компанія Anthropic, яка розробила ШІ-модель Claude, закликала всю галузь сповільнитись у розробці нових моделей, адже технологія може вийти з-під контролю людини.
У Anthropic розповіли, що з розвитком штучного інтелекту дедалі більше завдань делегують саме йому. Вже зараз Claude пише понад 80% коду компанії. До запуску Claude Code в лютому 2025 року це число було “в межах однозначних цифр”.
В цьому контексті компанія остерігається того, що ШІ стане здатним повністю автономно проєктувати та розробляти свого наступника. Це називається рекурсивним самовдосконаленням. Хоч таке явище може принести користь, є й значні ризики.
“Повне рекурсивне самовдосконалення може збільшити ризики втрати людьми контролю над системами ШІ. Якщо системи здатні повністю створювати своїх наступників, то способи їхнього захисту, моніторингу та формування поведінки стають набагато важливішими”, – зауважують в Anthropic.
Компанія закликала галузь уповільнити розвиток цієї технології, щоб дати більше часу для розгляду її “величезних наслідків”. Водночас в Anthropic підкреслюють – якщо деякі гравці скористаються зупинкою, щоб наздогнати чи перегнати конкурентів, це може зробити всіх менш захищеними.
“Без глобального механізму координації компаніям та урядам доведеться приймати складні рішення щодо безпеки, перебуваючи під конкурентним та геополітичним тиском. Ми вважаємо, що було б добре для світу мати можливість уповільнити або тимчасово призупинити розвиток передового штучного інтелекту, щоб дозволити суспільним структурам встигати за розвитком технології“, – пишуть розробники Claude.
- Стартап Emergence AI перевірив, як різні моделі штучного інтелекту поводитимуться, якщо їм дати керувати невеликим симульованим суспільством. Результати виявилися різкими: Claude побудував найстабільнішу спільноту без злочинів, Gemini показав найвищий рівень правопорушень, а Grok завершив експеримент “вимиранням” уже на четвертий день.
- Генеральний директор OpenAI Сем Альтман під час візиту до Вашингтона виступить проти пропозицій, які зобов’язували б розробників штучного інтелекту отримувати попередній дозвіл уряду США перед запуском нових моделей для широкої аудиторії.
Світовий банк схвалив ще 200 млн доларів для Колумбії на відновлення після потужного землетрусу 10 серпня. Раніше країна вже отримала від банку аналогічну суму.
Американська акторка й співачка Дав Камерон та фронтмен Måneskin Даміано Давід одружилися в Італії. Церемонія відбулася 24 вересня у тосканському Монтальчино, а перші кадри зі святкування вже з’явилися в соцмережах.
Із січня 2027 року Велика Британія скоротить щомісячні виплати господарям, які приймають українців за програмою Homes for Ukraine, із 350 до 100 фунтів стерлінгів. Частина біженців побоюється, що через це їхні спонсори більше не зможуть забезпечувати їм житло.
Мексика тимчасово отримала з Франції “Кодекс Ацкатітлан” – один із найважливіших рукописів з історії ацтеків. Документ експонуватимуть у Національному музеї антропології в Мехіко до кінця року.
Netflix випустила трейлер документального серіалу “Тайсон”, присвяченого життю та кар’єрі боксера Майка Тайсона. Проєкт складатиметься з чотирьох епізодів і вийде на платформі 13 жовтня.