Співробітники OpenAI та Google занепокоєні щодо ризиків «вимирання людства» через ШІ
Джерело: Reuters
Група нинішніх і колишніх співробітників компаній зі штучного інтелекту (ШІ), включно з Microsoft, OpenAI та Google DeepMind, висловила занепокоєння щодо ризиків, пов’язаних з новими технологіями ШІ. У відкритому листі групи з 11 нинішніх і колишніх співробітників заявили, що фінансові мотиви компаній зі штучним інтелектом перешкоджають ефективному нагляду.
“Ми не вважаємо, що створених на замовлення структур корпоративного управління достатньо, щоб змінити це”, — зазначено в листі.
Група попереджає про ризики нерегульованого ШІ, які включають поширення дезінформації, втрату контролю над незалежними системами ШІ та поглиблення існуючої нерівності, що може призвести до “вимирання людства.”
Дослідники виявили приклади генераторів зображень від компаній, таких як OpenAI та Microsoft, які створюють фотографії з дезінформацією, пов’язаною з голосуванням, попри політику проти такого контенту.
Лист наголошує, що компанії зі штучним інтелектом мають “слабкі зобов’язання” ділитися інформацією з урядами про можливості та обмеження своїх систем. Автори листа додають, що на ці фірми не можна покладатися, що вони добровільно діляться цією інформацією.
Цей відкритий лист є черговим сигналом про небезпеки генеративної технології штучного інтелекту, яка може швидко та дешево створювати текст, зображення та аудіо, схожі на людину. Група закликала компанії, які займаються ШІ, сприяти процесу, що дозволяє нинішнім і колишнім співробітникам висловлювати занепокоєння щодо ризиків, і не застосовувати угоди про конфіденційність, які забороняють критику.
Раніше очолювана Семом Альтманом фірма OpenAI заявила в четвер, що зірвала п’ять таємних операцій впливу, спрямованих на використання її моделей ШІ для “оманливої діяльності” в Інтернеті.
- OpenAI, компанія зі штучного інтелекту під керівництвом Сема Альтмана, оголосила про підписання угоди з медіаконгломератом News Corp. Це надасть їй доступ до контенту деяких найбільших новинних видань.
- Financial Times оголосила про укладення угоди з компанією OpenAI, згідно з якою контент видання буде використовуватися для навчання штучного інтелекту.
- Низка американських газет подали до суду на Microsoft та OpenAI, звинувативши компанії у зловживанні роботою репортерів для навчання своїх систем штучного інтелекту.
Російські ритейлери запустили попередні продажі нового iPhone 16, обходячи заборону компанії Apple на експорт до Росії.
Жителі трьох населених пунктів у Запорізькій області опинилися під блокадою з боку російських військ, не отримують гуманітарної допомоги та змушені пити дощову воду. Про це розповів начальник Оріхівської міської військової адміністрації Микола Вініченко.
В Bloomberg заявили, що Кремль використовує ютуб, щоб поширювати свої відео, проте обмежує доступ для росіян.
Сьогодні, 19 вересня, Верховна Рада в цілому прийняла нову постанову про зміну назв 327 населених пунктів у рамках дерусифікації.
Президент Румунії Клаус Йоганніс звернувся до парламенту з проханням дозволити створення на території країни морської навчальної бази для підготовки українських морських піхотинців. Ініціатива є частиною міжнародних зусиль для зміцнення обороноздатності України в умовах російської агресії.