ШІ може становити загрозу «рівня вимирання» для людей, – звіт для Держдепартаменту США
Джерело: CNN
У звіті Gladstone AI, розробленому на замовлення Державного департаменту США, стверджується, що найдосконаліші системи штучного інтелекту (ШІ) можуть “становити загрозу рівня вимирання для людського роду”.
Представник Державного департаменту США підтвердив, що агентство замовило звіт, оскільки вони постійно оцінюють, наскільки ШІ відповідає своїй меті захисту інтересів США та інших країн.
“Штучний інтелект вже є економічно трансформаційною технологією. Це може дозволити нам лікувати хвороби, робити наукові відкриття та долати виклики, які ми колись вважали непереборними. Але це також може призвести до серйозних ризиків, у тому числі катастрофічних, про які ми повинні знати”, — сказав генеральний директор і співзасновник Gladstone AI Джеремі Гарріс.
Він зазначив, що зростає кількість доказів, включаючи емпіричні дослідження та аналіз, які свідчать про те, що ШІ “потенційно може стати неконтрольованим”.
Дослідники попереджають про дві основні небезпеки, пов’язані з ШІ.
По-перше, в Gladstone AI зазначають, що найдосконаліші системи ШІ можуть завдати потенційно незворотної шкоди. По-друге, у звіті йдеться про те, що в лабораторіях штучного інтелекту є приватні побоювання, що в якийсь момент вони можуть “втратити контроль” над тими системами, які вони розробляють, з “потенційно руйнівними наслідками для глобальної безпеки”.
“Розвиток AI та AGI [штучного загального інтелекту] має потенціал дестабілізувати глобальну безпеку способами, що нагадують впровадження ядерної зброї”, — йдеться у звіті.
У Gladstone AI закликають до радикальних нових кроків, спрямованих на протистояння цій загрозі, включаючи запуск нового агентства зі штучного інтелекту, запровадження “надзвичайних” регуляторних гарантій і обмеження кількості комп’ютерної потужності, яку можна використовувати для навчання моделей штучного інтелекту.
- Компанії штучного інтелекту, зокрема OpenAI, Alphabet і Meta Platforms добровільно взяли на себе зобов’язання перед Білим домом запровадити такі заходи, як позначення водяних знаків на створеному штучним інтелектом контенті, щоб допомогти зробити цю технологію безпечнішою.
- У Гонконзі співробітник транснаціональної компанії здійснив транзакції на $25 мільйонів на прохання нібито свого керівника під час відеоконференції. Згодом стало відомо, що решта учасників зустрічі були діпфейком – витвором штучного інтелекту.
- В новому дослідженні Глобального інституту McKinsey зазначено, як розвиток штучного інтелекту (ШІ) та інших факторів, таких як старіння населення та електронна комерція, можуть вплинути на певні професії в найближчі роки.
Останні події в Польщі, пов’язані з демонтажем українських символів та ігноруванням проявів ксенофобії, засвідчують тривожну тенденцію: польська держава не дає належної відповіді на зростання антиукраїнських настроїв. Про це пише польський журналіст і публіцист Міхал Ольшевський у своїй колонці для “Gazeta Wyborcza”.
У Держдумі Росії готуються до розгляду законопроєкту, який дозволить притягати до кримінальної відповідальності “іноагентів” після першого ж порушення закону – без попереднього адміністративного покарання. Про це повідомив спікер Держдуми В’ячеслав Володін у своєму Telegram-каналі.
Платформа McHire, яку McDonald’s використовує для прийому на роботу нових співробітників, виявилася вразливою до елементарного злому. Двоє незалежних дослідників кібербезпеки – Ієн Керролл і Сем Каррі – з’ясували, що до внутрішньої системи, яка обробляє заявки кандидатів, можна було увійти, просто ввівши логін і пароль “123456”.
Голова Центру протидії корупції Віталій Шабунін заявив, що президент Володимир Зеленський “робить перші, але впевнені кроки” до авторитарної моделі влади, заснованої на зловживанні повноваженнями та вибірковому переслідуванні опонентів.
10 липня українська військова розвідка зафіксувала ще один доказ воєнних злочинів, скоєних армією РФ. ГУР МО оприлюднило аудіоперехоплення наказу одного з командирів 155-ї окремої бригади морської піхоти тихоокеанського флоту РФ, у якому той закликає до звірств щодо українських військовополонених: “Голову отрезать, на пики посадить, выкинуть нах..й”.