Розробник ШІ-моделі Claude закликав галузь «натиснути на гальма» у розвитку технологій
Джерело: Anthropic
Компанія Anthropic, яка розробила ШІ-модель Claude, закликала всю галузь сповільнитись у розробці нових моделей, адже технологія може вийти з-під контролю людини.
У Anthropic розповіли, що з розвитком штучного інтелекту дедалі більше завдань делегують саме йому. Вже зараз Claude пише понад 80% коду компанії. До запуску Claude Code в лютому 2025 року це число було “в межах однозначних цифр”.
В цьому контексті компанія остерігається того, що ШІ стане здатним повністю автономно проєктувати та розробляти свого наступника. Це називається рекурсивним самовдосконаленням. Хоч таке явище може принести користь, є й значні ризики.
“Повне рекурсивне самовдосконалення може збільшити ризики втрати людьми контролю над системами ШІ. Якщо системи здатні повністю створювати своїх наступників, то способи їхнього захисту, моніторингу та формування поведінки стають набагато важливішими”, – зауважують в Anthropic.
Компанія закликала галузь уповільнити розвиток цієї технології, щоб дати більше часу для розгляду її “величезних наслідків”. Водночас в Anthropic підкреслюють – якщо деякі гравці скористаються зупинкою, щоб наздогнати чи перегнати конкурентів, це може зробити всіх менш захищеними.
“Без глобального механізму координації компаніям та урядам доведеться приймати складні рішення щодо безпеки, перебуваючи під конкурентним та геополітичним тиском. Ми вважаємо, що було б добре для світу мати можливість уповільнити або тимчасово призупинити розвиток передового штучного інтелекту, щоб дозволити суспільним структурам встигати за розвитком технології“, – пишуть розробники Claude.
- Стартап Emergence AI перевірив, як різні моделі штучного інтелекту поводитимуться, якщо їм дати керувати невеликим симульованим суспільством. Результати виявилися різкими: Claude побудував найстабільнішу спільноту без злочинів, Gemini показав найвищий рівень правопорушень, а Grok завершив експеримент “вимиранням” уже на четвертий день.
- Генеральний директор OpenAI Сем Альтман під час візиту до Вашингтона виступить проти пропозицій, які зобов’язували б розробників штучного інтелекту отримувати попередній дозвіл уряду США перед запуском нових моделей для широкої аудиторії.
Президент США Дональд Трамп заявив, що американські військово-морські сили розмінували Ормузьку протоку та зараз повністю контролюють цей стратегічний морський маршрут. За його словами, судноплавство через протоку вже відновлено.
Йорданія розпочала підготовку до відзначення 2000-річчя хрещення Ісуса Христа у 2030 році. Для організації заходів створили національний комітет, який уже провів перше засідання.
Парламент Туреччини схвалив закон, який створює правові механізми для розпуску Робітничої партії Курдистану та повернення частини її колишніх членів до цивільного життя. Рішення стало одним із найважливіших кроків у спробі завершити конфлікт, що триває з 1980-х років.
Президент США Дональд Трамп підписав указ із рекомендаціями скоротити кількість дитячих щеплень і окремо вводити вакцини проти кору, паротиту та краснухи. Водночас федеральна влада не може самостійно змінити вимоги до вакцинації для відвідування шкіл, оскільки їх встановлюють штати.
Екіпаж яхти Марка Цукерберга не відповів на виклик про допомогу від човна, який залишився без пального біля узбережжя Аляски. Представник засновника Meta пояснив, що судно працювало на іншому радіоканалі й не почуло звернення.