Розробник ШІ-моделі Claude закликав галузь «натиснути на гальма» у розвитку технологій
Джерело: Anthropic
Компанія Anthropic, яка розробила ШІ-модель Claude, закликала всю галузь сповільнитись у розробці нових моделей, адже технологія може вийти з-під контролю людини.
У Anthropic розповіли, що з розвитком штучного інтелекту дедалі більше завдань делегують саме йому. Вже зараз Claude пише понад 80% коду компанії. До запуску Claude Code в лютому 2025 року це число було “в межах однозначних цифр”.
В цьому контексті компанія остерігається того, що ШІ стане здатним повністю автономно проєктувати та розробляти свого наступника. Це називається рекурсивним самовдосконаленням. Хоч таке явище може принести користь, є й значні ризики.
“Повне рекурсивне самовдосконалення може збільшити ризики втрати людьми контролю над системами ШІ. Якщо системи здатні повністю створювати своїх наступників, то способи їхнього захисту, моніторингу та формування поведінки стають набагато важливішими”, – зауважують в Anthropic.
Компанія закликала галузь уповільнити розвиток цієї технології, щоб дати більше часу для розгляду її “величезних наслідків”. Водночас в Anthropic підкреслюють – якщо деякі гравці скористаються зупинкою, щоб наздогнати чи перегнати конкурентів, це може зробити всіх менш захищеними.
“Без глобального механізму координації компаніям та урядам доведеться приймати складні рішення щодо безпеки, перебуваючи під конкурентним та геополітичним тиском. Ми вважаємо, що було б добре для світу мати можливість уповільнити або тимчасово призупинити розвиток передового штучного інтелекту, щоб дозволити суспільним структурам встигати за розвитком технології“, – пишуть розробники Claude.
- Стартап Emergence AI перевірив, як різні моделі штучного інтелекту поводитимуться, якщо їм дати керувати невеликим симульованим суспільством. Результати виявилися різкими: Claude побудував найстабільнішу спільноту без злочинів, Gemini показав найвищий рівень правопорушень, а Grok завершив експеримент “вимиранням” уже на четвертий день.
- Генеральний директор OpenAI Сем Альтман під час візиту до Вашингтона виступить проти пропозицій, які зобов’язували б розробників штучного інтелекту отримувати попередній дозвіл уряду США перед запуском нових моделей для широкої аудиторії.
У Донецькій області протягом минулої доби внаслідок російських обстрілів загинули люди, є поранені та руйнування цивільної інфраструктури. Російські війська 35 разів атакували населені пункти регіону.
У Чернівцях команда з ампфутболу “Сталь Буковина”, до складу якої входять ветерани російсько-української війни з ампутаціями кінцівок, стала для своїх учасників не лише спортивною спільнотою, а й місцем підтримки та відновлення. За рік команда пройшла шлях від перших тренувань до виступів у Першій лізі, боротьби за чемпіонство та виходу у Вищу лігу.
Увечері 14 жовтня нафтовий танкер YARA J під прапором Коморських Островів зазнав атаки безпілотника поблизу порту Суліна в територіальних водах Румунії. Після інциденту на судні спалахнула пожежа, яку екіпаж загасив самостійно. Постраждалих немає.
У Стамбулі внаслідок потужних злив відбулися масштабні підтоплення, зсуви ґрунту та транспортний колапс. Внаслідок потужних злив загинув 14-річний хлопець, якого вразило електричним струмом у затопленій калюжі.
На Чортківщині Тернопільської області внаслідок атаки російського безпілотника пошкоджено одне з підприємств.