Розробник ШІ-моделі Claude закликав галузь «натиснути на гальма» у розвитку технологій
Джерело: Anthropic
Компанія Anthropic, яка розробила ШІ-модель Claude, закликала всю галузь сповільнитись у розробці нових моделей, адже технологія може вийти з-під контролю людини.
У Anthropic розповіли, що з розвитком штучного інтелекту дедалі більше завдань делегують саме йому. Вже зараз Claude пише понад 80% коду компанії. До запуску Claude Code в лютому 2025 року це число було “в межах однозначних цифр”.
В цьому контексті компанія остерігається того, що ШІ стане здатним повністю автономно проєктувати та розробляти свого наступника. Це називається рекурсивним самовдосконаленням. Хоч таке явище може принести користь, є й значні ризики.
“Повне рекурсивне самовдосконалення може збільшити ризики втрати людьми контролю над системами ШІ. Якщо системи здатні повністю створювати своїх наступників, то способи їхнього захисту, моніторингу та формування поведінки стають набагато важливішими”, – зауважують в Anthropic.
Компанія закликала галузь уповільнити розвиток цієї технології, щоб дати більше часу для розгляду її “величезних наслідків”. Водночас в Anthropic підкреслюють – якщо деякі гравці скористаються зупинкою, щоб наздогнати чи перегнати конкурентів, це може зробити всіх менш захищеними.
“Без глобального механізму координації компаніям та урядам доведеться приймати складні рішення щодо безпеки, перебуваючи під конкурентним та геополітичним тиском. Ми вважаємо, що було б добре для світу мати можливість уповільнити або тимчасово призупинити розвиток передового штучного інтелекту, щоб дозволити суспільним структурам встигати за розвитком технології“, – пишуть розробники Claude.
- Стартап Emergence AI перевірив, як різні моделі штучного інтелекту поводитимуться, якщо їм дати керувати невеликим симульованим суспільством. Результати виявилися різкими: Claude побудував найстабільнішу спільноту без злочинів, Gemini показав найвищий рівень правопорушень, а Grok завершив експеримент “вимиранням” уже на четвертий день.
- Генеральний директор OpenAI Сем Альтман під час візиту до Вашингтона виступить проти пропозицій, які зобов’язували б розробників штучного інтелекту отримувати попередній дозвіл уряду США перед запуском нових моделей для широкої аудиторії.
У Будапешті відкрили виставку, на якій за допомогою археології, антропології та аналізу ДНК відтворили обличчя людей, які жили на території стародавнього римського міста Аквінкум майже дві тисячі років тому. Науковці не лише реконструювали їхню зовнішність, а й створили можливі історії життя, спираючись на історичні та археологічні дані.
Канадський репер Дрейк вкотре опинився в центрі уваги через невдалу спортивну ставку. Музикант програв 1,5 млн доларів після того, як збірна Іспанії перемогла Аргентину у фіналі чемпіонату світу з футболу.
425-й окремий штурмовий полк “Скеля” відреагував на поширені російськими ресурсами повідомлення про захоплення в полон українських військовослужбовців під час боїв у Костянтинівці. У підрозділі підтвердили, що знають про цей випадок, і повідомили, що нині триває встановлення всіх обставин.
Унаслідок російського удару по торговельному судну поблизу Одеси загинули 10 людей, серед яких – лоцман філії “Дельта-лоцман” державного підприємства “Адміністрація морських портів України”.
У світі визначили найгарніше слово. Переможцем стало kaitiakitanga (кайтіакітанґа) – слово мовою маорі, що означає відповідальність за захист природи та турботу про неї. Такий рейтинг склала платформа для вивчення мов Babbel.