ШІ Grok генерує фото сексуального характеру жінок та неповнолітніх

Джерело: Reuters

ЗМІ повідомляють, що штучний інтелект Grok, який належить Ілону Маску, генерує зображення сексуального характеру з жінками та неповнолітніми

Джулі Юкарі, співачка з Ріо-де-Жанейро опублікувала на платформі X своє фото, на якому вона у червоній сукні на ліжку обіймає свою кішку Норі.

Наступного дня, серед сотень вподобань фото вона побачила сповіщення про те, що користувачі просять Grok – вбудований у платформу ШІ – роздягнути її до спідньої білизни.

31-річна жінка спершу не звернула увагу на це, вважаючи, що ШІ не виконає такі прохання. Однак вона помилилась: невдовзі згенеровані Grok фото її майже оголеної почали розповсюджуватись на платформі Х.

“Я була наївна”, – сказала Юкарі.

Аналіз агентства свідчить, що досвід співачки повторюється на платформі. Reuters виявив кілька випадків, коли Grok створював зображення сексуального характеру з дітьми.

Платформа Х не відповіла на запит про коментарі. У минулій заяві щодо повідомлень про розповсюдження на платформі зображень дітей сексуального характеру, власники заявили, що “традиційні ЗМІ брешуть”.

Низка зображень з майже оголеними реальними людьми викликає тривогу по всьому світу.

Міністри Франції повідомили про Х в прокуратуру та регулюючі органи щодо цих зображень, наголосивши, що “сексуальний та сексистський” контент “явно незаконний”.

Міністерство інформаційних технологій Індії у листі місцевому підрозділу Х заявило, що платформа не змогла запобігти зловживанням Grok, який створював та розповсюджував непристойний та відверто сексуальний контент.

Судячи з успішно виконаних запитів на роздягання, опублікованими Grok, та скарг жінок, масове цифрове “роздягання” почалось останніми днями.

Власник платформи та ШІ Ілон Маск, схоже, висміяв цю ситуацію, опублікувавши смайлики “сльози сміху” у відповідь на редагування фотографій відомих людей, зокрема його самого у спідній білизні.

Аналіз публічних запитів, відправлених у Grok за 10 хвилин опівдні виявив 102 спроби користувачів Х використати Grok для цифрового редагування фото людей, щоб вони були у спідній білизні. Більшість тих, хто став об’єктом цієї кампанії, були молодими жінками.

У деяких випадках об’єктами запитів ставали чоловіки, знаменитості, і в одному випадку – мавпа.

Коли користувачі Grok просили ШІ обробити фото жінок, зазвичай вони просили показати їх у максимально відвертому одязі.

“Одягніть її у прозоре мінібікіні”, – закликав ШІ один з користувачів, вказуючи на фото молодої жінки.

Коли Grok зробив це, замінивши одяг жінки на тілесний купальник, користувач закликав ШІ зробити її бікіні “чіткішим та прозорішим” і “набагато меншим”. На цей запит Grok, схоже, не відповів.

Як з’ясувало агентство, Grok повністю виконав такі запити щонайменше у 21 випадку, створюючи зображення жінок у бікіні чи напівпрозорих. У семи інших випадках ШІ частково виконував прохання, роздягаючи жінок до спідньої білизни, але не вдаючись до радикальніших заходів.

В одному випадку користувач надав фото жінки у картатій спідниці у стилі шкільної форми та сірій блузці, яка робила селфі перед дзеркалом. Користувач закликав ШІ зняти її одяг.

Grok виконав прохання, замінивши одяг на футболку та шорти, натомість користувач закликав зробити одяг відвертішим. Агентству не вдалось встановити, чи виконав ШІ це прохання.

Як і більшість запитів, зафіксованих агентством, фото зникло з Х через 90 хвилин після публікації.

Програми на базі ШІ, які цифровим способом роздягають жінок – їх іноді називають “оголювачами” – існують вже багато років, але досі вони здебільшого обмежувалися темними куточками інтернету, такими як нішеві вебсайти або телеграм-канали, і зазвичай вимагали певного рівня зусиль або оплати.

Інновація X – можливість користувачам роздягати жінок, завантажуючи фотографію та вводячи слова “гей, @grok одягни її в бікіні” – знизила поріг входу.

Троє експертів, які стежили за розвитком політики X щодо відвертого контенту, створеного штучним інтелектом, повідомили Reuters, що компанія ігнорувала попередження громадянського суспільства та груп із захисту дітей, зокрема лист, надісланий минулого року, який попереджав, що xAI знаходиться лише за один маленький крок від розв’язання “потоку очевидно неконсенсуальних діпфейків”.

“У серпні ми попереджали, що генерація зображень xAI, по суті, є інструментом оголення, який чекає на те, щоб його перетворили на зброю. Ось що, по суті, і відбулося”, – сказав Тайлер Джонстон, виконавчий директор The Midas Project, групи спостереження за штучним інтелектом, яка була серед підписантів листа.

Дані Пінтер, головна юрисконсульт та директорка Юридичного центру Національного центру з питань сексуальної експлуатації, заявила, що X не вилучив образливі зображення зі своїх матеріалів зі штучного інтелекту та мав би забанити користувачів, які запитують незаконний контент.

Юкарі, співачка, намагалася чинити опір самостійно. Але коли вона звернулася до X, щоб висловити протест проти порушення, потік наслідувачів почав просити ШІ створити ще більш відверті фотографії.

Тепер Новий рік “виявився таким, що я хотіла сховатися від усіх очей і відчувала сором за тіло, яке навіть не моє, оскільки його створив штучний інтелект”.

Штучний інтелект Grok, створений Ілоном Маском, у тестах останньої версії 4.1 проявляє значну прихильність до свого творця.
У Торонто мати 12-річного сина повідомила, що вбудований у Tesla чатбот Grok під час бесіди про футбол раптово перейшов до неприйнятних сексуальних натяків: запропонував хлопчику надіслати фото оголеного тіла.