Банки в США фіксують проникнення ШІ-агентів у рахунки користувачів

Джерело: Reuters

Великі банки США виявляють сторонніх ШІ-агентів, які отримують доступ до рахунків клієнтів і в окремих випадках намагаються виконувати дії, що можуть виходити за межі інструкцій користувачів. Через ризики фінансові установи обмежують доступ таких інструментів до своїх платформ.

Серед банків, які реагують на загрозу, – Morgan Stanley, Bank of America, JPMorgan Chase та Wells Fargo.

За даними видання, у деяких випадках клієнти самі передавали ШІ-агентам логіни та паролі від банківських акаунтів. Однак правила багатьох банків передбачають, що клієнти мають входити у свої облікові записи самостійно.

В інших випадках банки фіксували, як ШІ-агенти зверталися до колцентрів або, ймовірно, намагалися виконувати дії без відповідних вказівок користувачів.

Банки побоюються неконтрольованих операцій

Особливе занепокоєння викликають агенти, які можуть не лише переглядати фінансову інформацію, а й здійснювати покупки або переказувати кошти. У такому разі помилкові чи непередбачені дії можуть мати фінансові наслідки для клієнтів.

Водночас банкам складно відрізнити дозволену автоматизовану активність від дій агента, який виходить за межі наданих повноважень.

У JPMorgan Chase заявили, що не дозволятимуть будь-яким стороннім агентам без обмежень працювати всередині банківської системи.

“Ми не дозволимо будь-якому сторонньому агенту просто заходити всередину компанії, адже це надто ризиковано для клієнтів і JPMorgan”, – пояснив генеральний директор банку Джеймі Даймон.

У Morgan Stanley повідомили, що банк почав блокувати сторонніх агентів на своїх платформах. Водночас представник установи наголосив, що їй не відомі випадки, коли так звані неконтрольовані ШІ-агенти отримували доступ до її систем.

Генеральний директор Charles Schwab Річард Вюрстер також заявив, що компанія блокує неавторизованих агентів. За його словами, банк щодня відстежує такі випадки.

“Ми блокуємо їх, тому що хочемо контролювати автентифікацію та взаємодію з користувачами”, – каже він.

Банки шукають спосіб контролювати ШІ

Попри ризики, фінансові установи розуміють, що клієнти дедалі частіше захочуть використовувати ШІ-агентів для роботи зі своїми фінансами. Тому банки розглядають можливість дозволити обмежений доступ, за якого інструменти зможуть переглядати інформацію, але не проводити операції.

JPMorgan уже працює над інструментами для управління ризиками, пов’язаними з автономними діями ШІ-агентів. Інші установи також посилюють контроль доступу та готуються до можливих інцидентів.

У Франції започаткували нову літературну премію Prix Pascal, якою нагороджуватимуть авторів художніх творів, створених у співпраці зі штучним інтелектом.
Уряди та компанії по всьому світу поспішають усунути вразливості в кібербезпеці, які виявили за допомогою штучного інтелекту.
У Франції сотні супермаркетів постраждали від масштабної кібератаки, під час якої зловмисники дистанційно змінили налаштування холодильного обладнання. Температура в холодильниках і морозильних камерах у деяких магазинах піднялася до 50°C, через що зіпсувалися продукти та виникли пожежі.