Пентагон хоче отримувати від компаній з розробки ШІ більше даних про свої технології
Джерело: Bloomberg
Високопоставлений посадовець Міністерства оборони США Крейг Мартелл, який займається питаннями штучного інтелекту, заявив, що відомство хоче дізнатися більше про інструменти ШІ, перш ніж воно погодиться взяти на себе зобов’язання використовувати цю технологію.
Як розповіли у виданні, програмне забезпечення для штучного інтелекту базується на великих мовних моделях (LLM), які використовують великі масиви даних для роботи таких інструментів, як чат-боти і генератори зображень. Послуги, як правило, пропонуються без показу їхньої внутрішньої роботи. Через це користувачам складно зрозуміти, як технологія приймає рішення або що змушує її працювати краще чи гірше з плином часу.
“Ми просто отримуємо кінцевий результат побудови моделі – цього недостатньо”, – прокоментував Мартелл.
За його словами, Пентагон не знає, як побудовані моделі і які дані були використані. Компанії також не пояснюють, яку небезпеку можуть становити їхні системи.
“Вони говорять: ось воно, ми не розповідаємо вам, як ми це створили, ми не говоримо вам, в чому система хороша чи погана, ми не говоримо вам, упереджена вона чи ні”, – пояснив Мартелл.
Зазначено, що Мартелл запросив представників промисловості та науковців до Вашингтона в лютому для обговорення цього питання. Так, симпозіум Пентагону з питань оборонних даних та штучного інтелекту має намір встановити, з якими завданнями можуть впоратися LLM.
При цьому Мартелл зауважив, що команда, яка керує робочою групою з оцінки LLM, вже знайшла для них 200 потенційних сфер застосування в Міністерстві оборони.
“Ми не хочемо зупиняти великі мовні моделі. Ми просто хочемо зрозуміти їх використання, переваги, небезпеки і те, як їм протистояти”, – наголосив він.
За словами Мартелла, в оборонному відомстві зростає підтримка використання LLM. Утім там визнають, що якщо програмне забезпечення ШІ фабрикує інформацію або видає неправильний результат, що не є рідкістю, саме вони повинні взяти на себе відповідальність за це.
Закрита сесія на триденному лютневому заході буде присвячена тому, як тестувати і оцінювати моделі, а також захищатися від хакерських атак.
“Буде багато випадків використання, коли на кону стоятимуть людські життя. Тому допускати збої або як би ми це не називали – просто неприйнятно”, – резюмував Мартелл.
- Центральне розвідувальне управління США анонсувало запуск функції, подібної до ChatGPT, яка використовуватиме штучний інтелект для надання аналітикам кращого доступу до відкритих джерел інформації.
- Американська корпорація конгломерату соціальних мереж Meta представила функції штучного інтелекту у своїх програмах, які нададуть 3 мільярдам користувачів компанії можливості, подібні до ChatGPT OpenAI.
- Американська компанія Meta представила SeamlessM4T, модель на основі штучного інтелекту, що може перекладати та транскрибувати на близько 100 мов світу.
- Компанія Meta представила модель штучного інтелекту з відкритим кодом AudioCraft, що дозволяє формувати музику чи звуки за допомогою текстових підказок.
Міністр оборони США Піт Гегсет офіційно скасував вимогу щодо обов’язкового щеплення від грипу для всіх категорій військовослужбовців. Це рішення продовжує нову політику Пентагону, спрямовану на відмову від примусових медичних процедур та зміцнення свободи вибору всередині збройних сил.
На прохання прем’єр-міністра та командувача армії Пакистану, Сполучені Штати призупинили підготовку до військового удару по Ірану. Дональд Трамп заявив, що американські війська залишаються у повній бойовій готовності та продовжують морську блокаду, чекаючи на конкретну мирну пропозицію від Тегерана.
Підозрювана у втечі від озброєного терориста поліцейська виявилася старшою інспекторкою з питань житлового забезпечення в Управлінні патрульної поліції Києва, яку вивели на вулицю для підсилення. Суд призначив їй та напарнику Михайлу Дробницькому арешт із можливістю внесення застави у розмірі 266 тисяч гривень.
За даними Reuters, вже завтра вдень нафтопровід “Дружба” повернеться до роботи. Україна офіційно підтвердила готовність відновити транзит сировини, що є ключовою умовою для отримання критично важливої фінансової підтримки від Європейського Союзу в розмірі 90 мільярдів євро.
Влада штату Флорида розпочала кримінальне провадження проти компанії OpenAI, стверджуючи, що чат-бот ChatGPT надав “суттєві поради” зловмиснику перед масовою стріляниною в Університеті штату Флорида. Генеральний прокурор Джеймс Утмаєр наполягає на відповідальності розробників за алгоритми, що допомагали вбивці планувати напад.