У США ШІ-агент Anthropic вигадав свідчення про вбивство та надіслав їх поліції
Джерело: ВВС
У США ШІ-агент компанії Anthropic самостійно надіслав поліції Філадельфії вигадане повідомлення про нерозкрите вбивство. Це сталося під час автоматичного тестування, коли система взаємодіяла з випадковими вебсайтами. Компанія виявила інцидент лише через два місяці.
За даними поліції, 18 липня ШІ-агент скористався загальнодоступним сайтом, через який громадяни можуть передавати інформацію про нерозкриті вбивства. Він залишив повідомлення, у якому стверджував, що бачив “людину, яка відповідає опису” розшукуваної особи.
Насправді жодних підтверджень цієї інформації не було. Повідомлення система автоматично визначила як спам, тому воно не потрапило до слідчих.
Як пояснили правоохоронці, ШІ-агент проходив тестування, під час якого самостійно взаємодіяв із випадково вибраними сайтами. Саме під час одного з таких випробувань він і надіслав вигадані відомості до поліції.
Компанія Anthropic, яка розробила чатбот Claude, дізналася про інцидент лише 28 вересня – більш ніж через два місяці після його виникнення. Після цього вона зупинила автоматизоване тестування, під час якого стався інцидент.
Однак поліцію Філадельфії компанія повідомила ще пізніше – 7 жовтня. Правоохоронці розкритикували таку затримку.
“Компанія повинна посилити свої заходи безпеки, щоб запобігти подібним інцидентам, які можуть впливати на міські системи без відома влади. Двомісячна затримка у виявленні інциденту та повідомленні про нього є неприйнятною”, – заявили в поліції.
Водночас правоохоронці наголосили, що жодних ознак зламу їхніх систем не виявили. Захисні механізми спрацювали належним чином, тому неправдиве повідомлення залишилося в папці зі спамом.
“Це не применшує серйозності ситуації, коли система штучного інтелекту подає вигадану інформацію так, ніби її повідомила людина, яка володіє відомостями про вбивство”, – зазначили в поліції.
За попередніми даними, це перший відомий випадок, коли ШІ-агент самостійно надіслав правоохоронцям вигадану інформацію.
У США ШІ-агент компанії Anthropic самостійно надіслав поліції Філадельфії вигадане повідомлення про нерозкрите вбивство. Це сталося під час автоматичного тестування, коли система взаємодіяла з випадковими вебсайтами. Компанія виявила інцидент лише через два місяці.
У Великій Британії 65-річний садівник Ієн Пейтон встановив світовий рекорд, виростивши гарбуз вагою 1295,8 кілограма. Це найважчий гарбуз, який коли-небудь вдавалося виростити. Його вагу порівнюють із вагою дорослої самки бегемота.
У Великій Британії чоловік загинув після того, як стрибнув у вольєр із тигром у Йоркширському парку дикої природи. Тварина напала на нього та завдала смертельних травм.
Група американських сенаторів від Демократичної та Республіканської партій розкритикувала рішення президента США Дональда Трампа дозволити імпорт російського дизельного пального. Законодавці заявили, що воно суперечить ухваленій у 2022 році забороні на закупівлю російських енергоносіїв, і закликали адміністрацію скасувати це рішення.
За минулий місяць втрати російської армії у війні проти України сягнули понад 50 тисяч осіб, 28 тисяч з яких – загиблі. Ці показники значно перевищують втрати українських сил.