Anthropic повідомила поліцію, що користувачка Claude планувала влаштувати стрілянину

Джерело: Futurism

У Флориді заарештували жінку після того, як вона нібито розповіла чат-боту Claude від Anthropic про намір влаштувати стрілянину в офісі шерифа.

Йдеться про Карлі Мішель Геллер із Боніта-Спрінгс. За даними WINK News, її листування із чат-ботом автоматично позначила внутрішня система моніторингу Anthropic, після чого повідомлення переглянув працівник компанії.

У Anthropic вирішили, що йдеться про реальну загрозу, і передали інформацію місцевій поліції.

Геллер звинуватили у письмовій погрозі насильством. У Флориді це кримінальний злочин другого ступеня.

Шериф округу заявив, що жінка використовувала Claude як “щоденник” і, ймовірно, не знала, що її листування можуть переглядати працівники Anthropic.

Випадок знову порушив питання про баланс між конфіденційністю користувачів і необхідністю реагувати на потенційно небезпечні повідомлення.

Подібна дискусія виникла після масової стрілянини в канадському Тамблер-Риджі у лютому. Згодом з’ясувалося, що нападниця активно користувалася ChatGPT під час підготовки атаки.

Її листування ще за кілька місяців до стрілянини також позначили для перевірки працівниками OpenAI. Після нападу компанію критикували через те, як вона реагувала на ці повідомлення та як пізніше коментувала роль ChatGPT у цій історії.

• У компанії OpenAI (розробник ChatGPT) заявили, що минулого року розглядали можливість попередження канадської поліції про підозрілу діяльність користувачки. Через кілька місяців вона вчинила стрілянину в школі.

• Anthropic,
• Claude,
• користувач,
• Поліція,
• чат-бот,
• ші,
• штучний інтелект