Використання ШІ для створення дитячого порно стрімко зростає — правозахисники

Джерело: звіт IWF за липень 2024 року щодо CSAM (матеріали про сексуальне насильство над дітьми)

У мережі стало з’являтися дедалі більше відео сексуального насильства над дітьми, створених за допомогою штучного інтелекту (ШІ). Британська правозахисна організація Internet Watch Foundation (IWF) вказує, що злочинці використовують ШІ і для того, щоб створювати відео з реальними дітьми, включаючи тих, хто вже став жертвою насильства.

Це викладено у звіті IWF за липень 2024 року щодо CSAM (матеріали про сексуальне насильство над дітьми).

Фахівці IWF наголосили, що медіафайли поширюються не лише в даркнеті, а й у відкритій мережі. Злочинці використовують інструменти ШІ, щоб підробляти обличчя або подобу реальної людини, створюючи відео зі зґвалтуванням і тортурами дітей.

“Зображення сексуального насильства над дітьми, створені за допомогою штучного інтелекту, прогресують настільки швидко, що IWF вже бачить перші реалістичні приклади відеороликів із зображенням сексуального насильства над дітьми, створені за допомогою штучного інтелекту. Ці неймовірно реалістичні, глибоко оброблені або частково синтетичні відео зі зґвалтуванням і тортурами дітей створено злочинцями за допомогою інструментів ШІ, які підробляють обличчя або подобу реальної людини”, – йдеться у звіті IWF.

За даними IWF, з жовтня 2023 року на одному з інтернет-форумів у даркнеті виявили понад 3,5 тисячі нових зображень сексуального насильства над дітьми, створених за допомогою ШІ. Правозахисники також зазначають, що поширюється  жорстокіший контент, зокрема, у відкритому доступі на комерційних сайтах.

Перший звіт IWF, опублікований у жовтні 2023 року, виявив понад 20 тисяч згенерованих зображень на одному з інтернет-форумів у даркнеті за один місяць, з яких понад 3 тисячі зображали сексуальне насильство над дітьми. З того часу проблема тільки загострилася.

Організація IWF попереджає, що розвиток ШІ може призвести до ще більшого зростання такого контенту в майбутньому, оскільки технології стають дедалі доступнішими. IWF виявила значну і дедалі сильнішу загрозу, пов’язану з використанням ШІ для створення матеріалів із зображеннями сексуального насильства над дітьми, підсумували аналітики.

• У соціальній мережі X (Twitter) почастішали проблеми через відвертий сексуальний контент, який розміщують на платформі. Соцмережа і раніше була відома тим, що користувачі помічали порнографічні матеріали, але тепер випадків стало більше.
• У Великій Британії злочинцю, засудженому за створення понад 1000 непристойних зображень дітей, заборонили користуватися інструментами штучного інтелекту.
• Суд в Іспанії засудив 15 школярів до року умовного терміну за створення та розповсюдження згенерованих штучним інтелектом зображень їхніх однолітків.
• У США вперше затримали чоловіка, який створював та розповсюджував дитяче порно, згенероване штучним інтелектом. Підозрюваного у поширенні матеріалів про сексуальне насильство над дітьми (CSAM) викрили у Вісконсині.