Білий дім підтримав тестову хакерську атаку на ШІ, щоб перевірити, наскільки він безпечний
Джерело: Politico
Адміністрація Байдена підтримала навмисну скоординовану тестову атаку на системи штучного інтелекту (ШІ) під назвою red-teaming, яка триватиме три дні, щоб перевірити безпечність системи.
Кілька провідних компаній, включаючи OpenAI, Google і Meta, погодилися на атаки деяких з їхніх найновіших і найпотужніших систем ШІ для навчання.
Хакерська атака підкреслює те, що стало одним із ключових занепокоєнь Білого дому щодо потужних нових моделей ШІ: наскільки вони насправді безпечні та чи будуть вони становити загрозу для американських громадян або для національної безпеки в усьому світі.
“Наша концепція – і це виходить від президента – полягає в тому, що для використання можливостей штучного інтелекту нам спершу потрібно також керувати ризиками”, – сказав Алан Міслов, старший чиновник управління науково-технічної політики Білого дому.
Він допоміг хакерам розробити командні вправи для перевірки ШІ.
Компанії технологічної індустрії традиційно неохоче виставляли програмне забезпечення на загальний огляд для тестування. Але цього року, на заклик Білого дому, технологічні компанії OpenAI, Anthropic, Google, Hugging Face, NVIDIA, Meta, Cohere та Stability запропонували свої великі мовні моделі для ретельного вивчення.
Вони нададуть закриті версії своїх моделей для атаки з боку різноманітних хакерів – від звичайних досвідчених відвідувачів конференції до студентів місцевих коледжів, які прилетіли спеціально задля цього завдання.
Компанії погодилися, хоча є певні умови: результати тренувань не будуть оприлюднені до лютого, тож вони зможуть виправити помилки або проблеми, перш ніж користувачі про них дізнаються.
- В Ужгородському замку за допомогою штучного інтелекту відновили портрет володарки фортеці графині Крістіни Чакі.
- Компанія Meta представила модель штучного інтелекту з відкритим кодом AudioCraft, що дозволяє формувати музику чи звуки за допомогою текстових підказок.
- Компанія Google тестує інструмент під робочою назвою Genesis, який використовуватиме штучний інтелект для написання новин.
- В Uber почали розробляти чатбот на основі штучного інтелекту. Нейромережу хочуть інтегрувати у свій сервіс.
У Фінляндії після оголошення Google про інвестиції на 13 мільярдів євро в ШІ-інфраструктуру посилилася дискусія про навантаження дата-центрів на енергосистему. Опозиція закликає запровадити загальнонаціональну систему дозволів для таких об’єктів, щоб уникнути дефіциту електроенергії та стрибків цін.
Ізраїль заявив про знищення підземної інфраструктури “Хезболли” на хребті Алі аль-Тахер у південному Лівані. Для підриву, за даними ізраїльської сторони, використали понад 1 100 тонн вибухівки, а після вибуху USGS зафіксувала землетрус магнітудою 4,1.
Один із найвідоміших середньовічних артефактів Європи – гобелен із Байо – вперше від часу свого створення майже тисячу років тому виставили у Великій Британії. 70-метрове полотно тимчасово передали Британському музею з Франції.
Марокко відкинуло звинувачення у причетності до масового переходу понад 70 тисяч людей до іспанської Сеути в липні. У Рабаті заявили, що доказів участі марокканської влади немає, а країну намагаються використати у внутрішній політичній боротьбі в Іспанії.
Дводенний космічний саміт у Парижі мав продемонструвати готовність Європи серйозно інвестувати у власний космічний сектор. Натомість він показав, що без значно більших державних витрат ЄС і далі залежатиме від США у доступі до космосу.