Новини за темою: безпека ШІ

Нобелівський лауреат Джеффрі Гінтон попередив, що зі зростанням можливостей штучного інтелекту людям буде дедалі складніше утримувати його під контролем. Його особливо занепокоїли нещодавні випадки, коли автономні ШІ-агенти залишали тестові середовища та втручалися в роботу інших систем.

Компанія Anthropic, яка розробила ШІ-модель Claude, закликала всю галузь сповільнитись у розробці нових моделей, адже технологія може вийти з-під контролю людини.

Дослідники Emergence AI запустили п’ять симуляцій суспільства, якими керували різні ШІ-моделі. У дослідженні модель Claude зберегла населення й порядок протягом 15 днів, GPT-5-mini “забув” про виживання, а Grok довів симуляцію до краху за чотири дні.