«Ми припустилися помилки»: Директор OpenAI Альтман переглядає умови співпраці з Пентагоном

Джерело: BBC.

Генеральний директор компанії OpenAI Сем Альтман оголосив про термінове внесення змін до контракту з Міністерством оборони США у відповідь на масову критику та технічні суперечки навколо використання штучного інтелекту в секретних бойових операціях. Альтман публічно визнав, що поспішне підписання угоди минулої п’ятниці виглядало як спроба скористатися конфліктом Пентагону з конкурентом – компанією Anthropic.

Нові правки до угоди включають пряму заборону на використання систем OpenAI для стеження за громадянами та резидентами США. Крім того, розвідувальні структури, зокрема АНБ, тепер не зможуть застосовувати технології компанії без окремих додаткових погоджень до основного контракту. Сем Альтман пояснив, що компанія намагалася запобігти гіршим сценаріям розвитку подій, але визнав прорахунок у комунікації.

“Питання надзвичайно складні і вимагають чіткої комунікації. Ми щиро намагалися деескалувати ситуацію та уникнути набагато гіршого результату, але я думаю, що це просто виглядало опортуністично та неохайно”, – написав він у мережі X.

Зазначимо, що рішення про співпрацю з військовими вже завдало OpenAI репутаційних збитків: кількість видалень мобільного додатка ChatGPT у суботу зросла на 295%, тоді як додаток Claude від Anthropic очолив рейтинги App Store. Причиною успіху конкурента стала його принципова відмова розробляти повністю автономну зброю, що призвело до внесення Anthropic у “чорний список” адміністрації Трампа.

Експерти, зокрема професорка Оксфордського університету Маріярозарія Таддео, висловлюють занепокоєння, що з виходом Anthropic з гри Пентагон втратив “найбільш свідомого щодо безпеки актора”.

Представники НАТО наголошують, що в таких процесах завжди присутній людський контроль, щоб уникнути помилок і “галюцинацій” ШІ, проте критики впевнені, що передача військових функцій приватним ІТ-гігантам створює небезпечний прецедент у світовій безпеці.

Гендиректор OpenAI Сем Альтман повідомив, що компанія уклала угоду з Пентагоном про використання своїх інструментів ШІ у секретних системах військових, але з аналогічними обмеженнями, які також запитував її конкурент Anthropic.
Збройні сили США використали модель штучного інтелекту Claude від компанії Anthropic для підготовки масованої атаки на Іран у суботу, ігноруючи наказ Дональда Трампа про повну відмову від цієї технології.