Співробітники OpenAI та Google занепокоєні щодо ризиків «вимирання людства» через ШІ

Джерело: Reuters

Група нинішніх і колишніх співробітників компаній зі штучного інтелекту (ШІ), включно з Microsoft, OpenAI та Google DeepMind, висловила занепокоєння щодо ризиків, пов’язаних з новими технологіями ШІ. У відкритому листі групи з 11 нинішніх і колишніх співробітників заявили, що фінансові мотиви компаній зі штучним інтелектом перешкоджають ефективному нагляду.

“Ми не вважаємо, що створених на замовлення структур корпоративного управління достатньо, щоб змінити це”, — зазначено в листі.

Група попереджає про ризики нерегульованого ШІ, які включають поширення дезінформації, втрату контролю над незалежними системами ШІ та поглиблення існуючої нерівності, що може призвести до “вимирання людства.”

Дослідники виявили приклади генераторів зображень від компаній, таких як OpenAI та Microsoft, які створюють фотографії з дезінформацією, пов’язаною з голосуванням, попри політику проти такого контенту.

Лист наголошує, що компанії зі штучним інтелектом мають “слабкі зобов’язання” ділитися інформацією з урядами про можливості та обмеження своїх систем. Автори листа додають, що на ці фірми не можна покладатися, що вони добровільно діляться цією інформацією.

Цей відкритий лист є черговим сигналом про небезпеки генеративної технології штучного інтелекту, яка може швидко та дешево створювати текст, зображення та аудіо, схожі на людину. Група закликала компанії, які займаються ШІ, сприяти процесу, що дозволяє нинішнім і колишнім співробітникам висловлювати занепокоєння щодо ризиків, і не застосовувати угоди про конфіденційність, які забороняють критику.

Раніше очолювана Семом Альтманом фірма OpenAI заявила в четвер, що зірвала п’ять таємних операцій впливу, спрямованих на використання її моделей ШІ для “оманливої діяльності” в Інтернеті.

У ніч на 3 серпня безпілотники атакували нафтобазу у російському Сочі.

Триває 1257-та доба повномасштабної російсько-української війни. За цей час втрати військ РФ у живій силі (вбиті та поранені) перевищили мільйон осіб.

Міжнародне агентство з атомної енергії повідомило, що його команда на Запорізькій атомній електростанції в Україні зафіксувала вибухи та побачила дим, який підіймався з прилеглої території.

Найскладнішою нині залишається ситуація на Покровському, Добропільському та Новопавлівському напрямках. Про це розповів головнокомандувач ЗСУ Олександр Сирський після роботи в Донецькій області.

Після пошкодження мосту через річку Кошову, що сполучає адміністративний центр Херсона з мікрорайоном Корабел, місцева влада закликала мешканців евакуюватися.