Новини за темою: Anthropic

У США ШІ-агент компанії Anthropic самостійно надіслав поліції Філадельфії вигадане повідомлення про нерозкрите вбивство. Це сталося під час автоматичного тестування, коли система взаємодіяла з випадковими вебсайтами. Компанія виявила інцидент лише через два місяці.

У Флориді заарештували жінку після того, як вона нібито розповіла чат-боту Claude від Anthropic про намір влаштувати стрілянину в офісі шерифа.

Дональд Трамп у вівторок зустрінеться з керівниками технологічних компаній, щоб обговорити, як США мають контролювати розвиток штучного інтелекту, не сповільнюючи інновації та конкуренцію з Китаєм. Про це заявив спікер Палати представників Майк Джонсон.

Джеффрі Хінтон, Йошуа Бенжіо та керівники OpenAI й Anthropic попередили уряди про сценарій, за якого штучний інтелект почне настільки швидко вдосконалювати власні системи, що роки технологічного прогресу можуть стиснутися до кількох місяців.

Розробник Claude компанія Anthropic потайки створила лабораторію для проведення біологічних досліджень. Зробили це, щоб розширити проєкти у фармацевтичній галузі.

Ілон Маск і Сем Альтман, які роками перебувають у жорсткій конкуренції, одночасно підтримали заклик глави Anthropic Даріо Амодеї сповільнити розвиток найпотужніших систем штучного інтелекту. Амодеї попереджає, що без додаткових запобіжників автономні ШІ-агенти потенційно можуть створити масштабну ботмережу й завдати величезних збитків.

Генеральний директор Anthropic Даріо Амодей закликав провідні компанії у сфері штучного інтелекту сповільнити темпи розвитку можливостей ШІ-моделей, щоб розробники мали більше часу для оцінки та контролю потенційних ризиків.

Американська компанія Anthropic викрила групу російських кібершпигунів, які використали її чат-бот Claude для операцій проти України.

Провідний дослідник безпеки в компанії Anthropic Еван Хабінгер попередив, що штучний інтелект розвивається дуже швидко. Він особисто вважає, що існує понад 10% ймовірності того, що ШІ “може вбити всіх людей” протягом наступного десятиліття.

Головний науковець OpenAI Якуб Пахоцький попередив, що розвиток штучного інтелекту наближається до етапу, коли системи зможуть удосконалювати себе без безпосереднього втручання людини. Він очікує, що через ризики лабораторії дедалі частіше добровільно пригальмовуватимуть розробку моделей.