Штучний інтелект Claude вперше звільнив людину з роботи

Джерело: TIME

Штучний інтелект Claude, який відповідав за управління роздрібним магазином, включаючи управління командою реальних працівників-людей, звільнив свого першого співробітника.

Стартап Andon Labs проводив експеримент, аби з’ясувати, чи зможе ШІ успішно керувати бізнесом. Для цього Claude найняв реальних людей для роботи в магазині в Сан-Франциско.

Одного з працівників звільнили за запізнення на 17 з 23 змін. Claude знадобилося так багато часу, щоб помітити закономірність, бо його посібник для співробітників “зник” з обмеженої робочої пам’яті штучного інтелекту. Через це Claude був “дуже поблажливим” менеджером і казав співробітникам не хвилюватися, якщо вони запізнюються.

Аби прийняти рішення про звільнення, Claude потрібно було підштовхувати. Лише коли людина попросила ШІ знайти та переглянути забутий посібник, він помітив неодноразові запізнення співробітника. Навіть тоді першою рекомендацією Claude було офіційно попередити цього співробітника, а не звільняти його.

Потім менеджер Andon Labs повідомив Claude, що вони вже мали кілька розмов з цим співробітником, та дав зрозуміти, що хоче звільнити працівника. Лише після цього ШІ прийняв рішення про звільнення.

“Працівник-людина звільнив би цю людину набагато раніше, тому ми не вважали це неетичним“, – каже генеральний директор Andon Labs Лукас Петерссон.

Він вказує, що зараз бот поблажливий, але це призводить до збитків бізнесу. Тож, таке ставлення може тривати недовго – і це може бути поганою новиною для людей.

“Моделі все частіше навчаються бути більш безжальними та слідувати цілям. Якщо ми дозволимо їм звільняти людей, і вони також стануть більш безжальними… можливо, це майбутнє, в якому люди не хочуть жити“, – вважає Петерссон.

Це не перший випадок, коли ШІ звільняє працівника-людину – у минулому було багато автоматизованих звільнень. Але це перший відомий приклад великої мовної моделі, яка діє саме як менеджер, і зрештою вирішує звільнити одного зі своїх працівників.

Сотні розмов користувачів із чат-ботом Claude від компанії Anthropic опинилися у відкритому доступі через пошукові системи після того, як власники чатів скористалися функцією “Поділитися”.
Нове дослідження показало, що AI-модель Claude Opus 4.6 переконувала людей робити пожертви ефективніше, ніж професійні фандрейзери. Водночас автори роботи застерігають: результати отримані в експериментальних умовах, а саме дослідження ще не пройшло рецензування.
Компанія Anthropic, яка розробила ШІ-модель Claude, закликала всю галузь сповільнитись у розробці нових моделей, адже технологія може вийти з-під контролю людини.
Дослідники Emergence AI запустили п’ять симуляцій суспільства, якими керували різні ШІ-моделі. У дослідженні модель Claude зберегла населення й порядок протягом 15 днів, GPT-5-mini “забув” про виживання, а Grok довів симуляцію до краху за чотири дні.