У США ШІ-агент Anthropic вигадав свідчення про вбивство та надіслав їх поліції
Джерело: ВВС
У США ШІ-агент компанії Anthropic самостійно надіслав поліції Філадельфії вигадане повідомлення про нерозкрите вбивство. Це сталося під час автоматичного тестування, коли система взаємодіяла з випадковими вебсайтами. Компанія виявила інцидент лише через два місяці.
За даними поліції, 18 липня ШІ-агент скористався загальнодоступним сайтом, через який громадяни можуть передавати інформацію про нерозкриті вбивства. Він залишив повідомлення, у якому стверджував, що бачив “людину, яка відповідає опису” розшукуваної особи.
Насправді жодних підтверджень цієї інформації не було. Повідомлення система автоматично визначила як спам, тому воно не потрапило до слідчих.
Як пояснили правоохоронці, ШІ-агент проходив тестування, під час якого самостійно взаємодіяв із випадково вибраними сайтами. Саме під час одного з таких випробувань він і надіслав вигадані відомості до поліції.
Компанія Anthropic, яка розробила чатбот Claude, дізналася про інцидент лише 28 вересня – більш ніж через два місяці після його виникнення. Після цього вона зупинила автоматизоване тестування, під час якого стався інцидент.
Однак поліцію Філадельфії компанія повідомила ще пізніше – 7 жовтня. Правоохоронці розкритикували таку затримку.
“Компанія повинна посилити свої заходи безпеки, щоб запобігти подібним інцидентам, які можуть впливати на міські системи без відома влади. Двомісячна затримка у виявленні інциденту та повідомленні про нього є неприйнятною”, – заявили в поліції.
Водночас правоохоронці наголосили, що жодних ознак зламу їхніх систем не виявили. Захисні механізми спрацювали належним чином, тому неправдиве повідомлення залишилося в папці зі спамом.
“Це не применшує серйозності ситуації, коли система штучного інтелекту подає вигадану інформацію так, ніби її повідомила людина, яка володіє відомостями про вбивство”, – зазначили в поліції.
За попередніми даними, це перший відомий випадок, коли ШІ-агент самостійно надіслав правоохоронцям вигадану інформацію.
4 листопада російські окупанти атакували двома безпілотниками невстановленого типу цивільне підприємство у Златополі на Харківщині.
Американський актор Джонні Депп заявив, що готовий знову зіграти капітана Джека Горобця в шостій частині “Піратів Карибського моря”. Однак він хотів би повернутися до франшизи лише заради того, щоб гідно завершити її історію.
Голова Комітету Верховної Ради з питань містобудування Олена Шуляк заявила, що народні депутати працюють над законопроєктом, який врегулював би діяльність рієлторів.
Національна поліція відсторонила від роботи поліціянтів, щодо яких НАБУ провело слідчі дії. Рішення ухвалили на час службового розслідування.
Колишній президент США Барак Обама привітав Демократичну партію з перемогою на проміжних виборах до Конгресу та назвав результати голосування чітким сигналом від американських виборців адміністрації Дональда Трампа.