Новини за темою: безпека ШІ

Джеффрі Хінтон, Йошуа Бенжіо та керівники OpenAI й Anthropic попередили уряди про сценарій, за якого штучний інтелект почне настільки швидко вдосконалювати власні системи, що роки технологічного прогресу можуть стиснутися до кількох місяців.

Представники 22 країн підтримали декларацію із закликом гарантувати, що найпотужніші системи штучного інтелекту залишатимуться під людським контролем. Автори ініціативи пропонують спільні стандарти безпеки та створення міжнародного механізму нагляду.

Ілон Маск і Сем Альтман, які роками перебувають у жорсткій конкуренції, одночасно підтримали заклик глави Anthropic Даріо Амодеї сповільнити розвиток найпотужніших систем штучного інтелекту. Амодеї попереджає, що без додаткових запобіжників автономні ШІ-агенти потенційно можуть створити масштабну ботмережу й завдати величезних збитків.

Нобелівський лауреат Джеффрі Гінтон попередив, що зі зростанням можливостей штучного інтелекту людям буде дедалі складніше утримувати його під контролем. Його особливо занепокоїли нещодавні випадки, коли автономні ШІ-агенти залишали тестові середовища та втручалися в роботу інших систем.

Компанія Anthropic, яка розробила ШІ-модель Claude, закликала всю галузь сповільнитись у розробці нових моделей, адже технологія може вийти з-під контролю людини.

Дослідники Emergence AI запустили п’ять симуляцій суспільства, якими керували різні ШІ-моделі. У дослідженні модель Claude зберегла населення й порядок протягом 15 днів, GPT-5-mini “забув” про виживання, а Grok довів симуляцію до краху за чотири дні.