Зросла кількість відео, згенерованих ШІ, щодо війни в Ірані: автори заробляють на цьому

Джерело: BBC

Експерти повідомили, що хвиля відео, створених з допомогою штучного інтелекту про війну в Ірані, різко зросла, і монетизується авторами роликів.

Аналіз видання виявив низку прикладів використання ШІ-відео та сфабрикованих супутникових фото для розповсюдження брехливих тверджень про війну, які назбирали сотні мільйонів переглядів в інтернеті.

Експерт з цифрових медіа Тімоті Грем зауважив, що їхні масштаби дійсно лякають.

“Те, що раніше вимагало професійного відеовиробництва, тепер можна зробити за лічені хвилини за допомогою інструментів штучного інтелекту. Перешкода для створення переконливих синтетичних кадрів конфліктів, по суті, звалилася”, – сказав він.

США та Ізраїль почали завдавати ударів по Ірану 28 лютого. У відповідь Іран завдав ударів безпілотниками та ракетами по Ізраїлю, а також по низці країн Перської затоки та американським військовим об’єктам у регіоні.

Багато хто звернувся до соціальних мереж, щоб шукати і ділитися останньою інформацією, а також щоб розібратися в конфлікті, що стрімко розвивається, який вирує цього тижня.

Цього тижня платформа X оголосила про тимчасове вилучення зі своєї програми монетизації авторів, які публікують згенеровані ШІ відеоролики про збройні конфлікти без відповідного маркування.

У межах цієї програми користувачі, чиї публікації набирають велику кількість переглядів, лайків, репостів і коментарів, що отримують відповідні вимоги, отримують виплати від платформи.

“Це чудовий сигнал, що вони усвідомили серйозність проблеми”, – зауважила Махса Алімардані, дослідниця з Оксфордського інституту інтернету, що спеціалізується на Ірані.

BBC запитало TikTok і Meta, компанії, що володіють Facebook і Instagram, чи мають намір вони зробити аналогічні дії, але вони не відповіли на наші запити про коментарі.

Типовий приклад відео, згенерованого штучним інтелектом, яке відслідковує BBC Verify, показує, як ракети потрапляють до ізраїльського міста Тель-Авів, а на задньому плані чути звуки вибухів.

Це відео було використане більш ніж у 300 публікаціях, які потім були поширені десятками тисяч разів у соціальних мережах.

Деякі користувачі X звернулися до чат-бота Grok, створеного на платформі, щоб підтвердити справжність відео. Однак у багатьох випадках, з якими ознайомилася BBC Verify, Grok помилково стверджував, що згенероване ШІ відео є справжнім.

Ще одне фейкове відео, переглянуте десятками мільйонів разів, нібито показує хмарочос Бурдж-Халіфа, що горить, у Дубаї, на якому натовп, судячи з усього, біжить до будівлі.

Ці створені за допомогою ШІ кадри широко поширилися в інтернеті в той час, коли мешканці та туристи були дуже стурбовані ударами безпілотників та ракет по місту.

“Подібні фейкові відеоролики згубно впливають на довіру людей до перевіреної інформації, яку вони бачать в інтернеті, і значно ускладнюють збирання реальних доказів”, – сказав Алімардані.

Нова особливість цього конфлікту, проаналізована ВВС Verify, – поява супутникових знімків, створених штучним інтелектом.

Видання підтвердило справжність кількох відеозаписів, які демонструють удари іранських безпілотників та ракет по штаб-квартирі П’ятого флоту ВМС США у Бахрейні у перший день конфлікту.

Наступного дня в мережі X поширилася сфабрикована фотографія, опублікована пов’язаною з державою газетою The Tehran Times, на якій нібито було зафіксовано значні пошкодження бази.

Підробка, мабуть, заснована на реальних супутникових знімках військово-морської бази США в Бахрейні, зроблених у лютому 2025 року, які перебувають у відкритому доступі в інтернеті.

Відповідно до детектора водяних знаків SynthID від Google, підроблене зображення було створено або відредаговано за допомогою інструмента штучного інтелекту Google.

Три припарковані зовні автомобілі перебувають в тому самому місці як на справжньому супутниковому знімку, так і на знімку, отриманому за допомогою штучного інтелекту, попри те, що фотографії нібито були зроблені з різницею на рік.

Інструменти штучного інтелекту Google, включаючи генератор відео Veo, входять в список популярних платформ ШІ, таких як модель Sora від OpenAI, китайський додаток ШІ Seedance і Grok, вбудований в X.

“Кількість різних інструментів, доступних сьогодні для створення широкого спектра високореалістичних маніпуляцій з використанням ШІ, безпрецедентна”, – зазначив Генрі Айдер, експерт з генеративного ШІ.

“Ми ніколи не бачили, щоб ці інструменти були настільки доступні, прості та недорогі у використанні”, – додав він.

Це призвело до різкого збільшення кількості контенту, створеного за допомогою ШІ, в інтернеті, “бо процес його розміщення в соціальних мережах тепер можна практично повністю автоматизувати”, – сказав Віктуар Ріо, виконавчий директор некомерційної організації What To Fix, яка займається питаннями технологічної політики.

Глава відділу розробки продуктів X заявив у вівторок, що “99%” облікових записів, які розповсюджують подібні відеоролики, створені за допомогою ШІ, намагаються “маніпулювати монетизацією”, публікуючи контент, який викликає великий інтерес у аудиторії в обмін на оплату через програму розподілу доходів із творців контенту в додатку.

Платформа не публікує інформацію про кількість облікових записів, що беруть участь у програмі, і про те, скільки грошей вони можуть заробити.

Однак Грем припускає, що X може платити приблизно від восьми до дванадцяти доларів за мільйон підтверджених показів користувачам.

“Щоб відповідати критеріям, творцям контенту необхідно набрати п’ять мільйонів органічних показів за три місяці, а також мати преміумпідписку X”, – додав він.

“Щойно ви увійдете в цю систему, вірусний контент, створений за допомогою ШІ, по суті, стане джерелом доходу”, – сказав він. “Вони створили ідеальне підприємство для поширення дезінформації”.

Компанія X не відповіла на запит про коментарі, а також на питання про програму розподілу доходів між авторами.

Експерти повідомили BBC Verify, що, хоча багато компаній, які володіють соціальними мережами, заявляють про спроби змінити свої системи модерації та виявлення, щоб впоратися з масштабами та швидкістю поширення контенту, створеного штучним інтелектом, простого розв’язання цієї проблеми не існує.

“Глибока проблема полягає в тому, що монетизація, заснована на залученості користувачів, і надання точної інформації знаходяться в принциповій суперечності, і жодна платформа не змогла повністю вирішити цю суперечність і, можливо, ніколи не зможе”, – сказав Грем.

Пентагон звернувся до Білого дому з проханням схвалити запит до Конгресу для продовження фінансування війни проти Ірану. За повідомленням ЗМІ, Пентагон просить ще понад 200 млрд доларів.