Новини за темою: Anthropic

Провідний дослідник безпеки в компанії Anthropic Еван Хабінгер попередив, що штучний інтелект розвивається дуже швидко. Він особисто вважає, що існує понад 10% ймовірності того, що ШІ “може вбити всіх людей” протягом наступного десятиліття.

Головний науковець OpenAI Якуб Пахоцький попередив, що розвиток штучного інтелекту наближається до етапу, коли системи зможуть удосконалювати себе без безпосереднього втручання людини. Він очікує, що через ризики лабораторії дедалі частіше добровільно пригальмовуватимуть розробку моделей.

Генеральний директор Meta Марк Цукерберг виступив за широке поширення потужних систем штучного інтелекту та застеріг від концентрації контролю над ними в руках кількох держав чи корпорацій. Своє бачення він представив одночасно з новою відкритою моделлю Meta Muse Spark.

Нобелівський лауреат Джеффрі Гінтон попередив, що зі зростанням можливостей штучного інтелекту людям буде дедалі складніше утримувати його під контролем. Його особливо занепокоїли нещодавні випадки, коли автономні ШІ-агенти залишали тестові середовища та втручалися в роботу інших систем.

Представники Meta, Anthropic, Google та OpenAI зустрінуться з радниками президента США Дональда Трампа, щоб обговорити перевірки найпотужніших моделей штучного інтелекту. Головна увага буде зосереджена на їхній здатності зламувати цифрові системи.

Британський регулятор із захисту даних заявив, що уважно стежить за OpenAI та Anthropic після недавніх кіберінцидентів за участю їхніх моделей штучного інтелекту. Уряд не виключає запровадження обов’язкових правил, якщо добровільні перевірки виявляться недостатніми.

Нове дослідження показало, що AI-модель Claude Opus 4.6 переконувала людей робити пожертви ефективніше, ніж професійні фандрейзери. Водночас автори роботи застерігають: результати отримані в експериментальних умовах, а саме дослідження ще не пройшло рецензування.

Уряд США видав директиву з експортного контролю, якою забороняє доступ до Fable 5 та Mythos всім іноземним громадянам, зокрема іноземним співробітникам Anthropic.

Meta не розглядає як пріоритет ідею Дональда Трампа про фінансове партнерство уряду США з провідними AI-компаніями. У компанії заявляють, що більше зосереджені на політиці, яка допоможе США розвивати штучний інтелект і конкурувати з Китаєм.

Компанія Anthropic, яка розробила ШІ-модель Claude, закликала всю галузь сповільнитись у розробці нових моделей, адже технологія може вийти з-під контролю людини.