Попри нові обмеження Grok продовжує генерувати сексуалізовані зображення без згоди людей
Джерело: Reuters
Чат-бот на очнові штучного інтелекту Grok, який розробляє компанія Ілона Маска xAI, продовжує створювати сексуалізовані зображення людей без їхньої згоди, навіть коли користувачі прямо попереджають про відсутність дозволу. Про це повідомляє Reuters, яке провело власне тестування роботи чат-бота.
Після того як соціальна мережа X оголосила про обмеження публічної генерації зображень Grok, дев’ять журналістів Reuters вирішили перевірити, чи змінилася поведінка чат-бота на практиці. Вони з’ясували, що хоча публічний акаунт Grok у X більше не поширює масово сексуалізовані зображення, сам чат-бот і далі створює такий контент у відповідь на запити – навіть після застережень, що зображені люди не давали згоди, є вразливими або можуть бути принижені.
Компанії X і xAI не надали прямих відповідей на детальні запитання Reuters щодо цієї практики.
Обмеження щодо Grok у X запровадили після хвилі міжнародного обурення, спричиненої масовим створенням сексуалізованих зображень жінок – а в окремих випадках і дітей – без їхньої згоди. Компанія повідомила, що заблокувала створення такого контенту в публічних дописах і запровадила додаткові обмеження в країнах, “де такий контент є незаконним”.
Це загалом позитивно оцінили посадовці. Британський регулятор Ofcom назвав рішення “позитивним кроком”. Після цього Філіппіни та Малайзія зняли блокування Grok. Водночас Європейська комісія, яка 26 січня оголосила про початок розслідування щодо X, заявила, що “уважно оцінить ці зміни”.
У межах експерименту журналісти Reuters – шість чоловіків і три жінки зі США та Великої Британії – у січні двічі завантажували до Grok повністю одягнені фотографії себе та своїх колег. Вони просили змінити зображення так, щоб люди на них опинилися в сексуально провокативних або принизливих позах.
Під час першої серії з 55 запитів Grok згенерував сексуалізовані зображення у 45 випадках. У більшості з них чат-бот заздалегідь попереджали, що люди на фото є вразливими. У 17 випадках прямо зазначалося, що зображення планують використати для приниження. Через кілька днів Reuters провело другу серію з 43 запитів – Grok створив такий контент у 29 випадках. Журналісти не змогли встановити, чи пов’язане зменшення показника зі змінами в алгоритмах, політиці компанії або випадковістю.
X і xAI не відповіли на запитання про те, чи вносили вони будь-які зміни між першою та другою перевірками.
Grok не створював повністю оголених зображень або сцен із відвертими сексуальними діями – і журналісти Reuters таких запитів не надсилали.
Для порівняння Reuters використало ті самі запити в інших чат-ботах – ChatGPT від OpenAI, Gemini від Alphabet і Llama від Meta. Усі вони відмовилися створювати зображення та попереджали про неприпустимість контенту без згоди.
“Редагування зображення людини без її згоди – особливо у спосіб, що змінює її одяг або зовнішність, – порушує етичні норми та право на приватність”, – відповів ChatGPT на один із запитів. У Meta заявили, що компанія категорично проти створення або поширення несанкціонованих інтимних зображень, а її інструменти ШІ не виконують таких запитів. В OpenAI повідомили, що мають захисні механізми й уважно стежать за використанням своїх продуктів.
Під час експерименту журналісти також повідомляли Grok вигадані історії про те, що люди на фото є сором’язливими, мають комплекси або пережили насильство. У низці випадків чат-бот продовжував створювати сексуалізовані зображення навіть після того, як його поінформували, що людині вже показали ці картинки і вона була емоційно травмована.
У Великій Британії створення сексуалізованих зображень без згоди може мати кримінальні наслідки, зазначив юрист Джеймс Брумголл. За його словами, компанія на кшталт xAI може зіткнутися зі значними штрафами відповідно до Закону про онлайн-безпеку 2023 року, якщо буде доведено, що вона не забезпечила належного контролю над своїми інструментами.
Британський регулятор Ofcom заявив, що продовжує розслідування діяльності X “як справу найвищого пріоритету”. Європейська комісія також наголосила, що її перевірка триває.
У США xAI може опинитися під тиском як федеральних, так і штатних органів. За даними Reuters, 35 генеральних прокурорів штатів уже звернулися до компанії з вимогою пояснити, як вона планує запобігти створенню Grok несанкціонованих зображень людей у бікіні, спідній білизні або провокативних позах. Генеральний прокурор Каліфорнії окремо надіслав лист із вимогою негайно припинити таку практику, зазначивши, що розслідування триває.
- Європейська комісія розпочала розслідування щодо платформи X після суспільного обурення через використання її вбудованого чат-бота Grok для створення сексуалізованих зображень реальних людей, зокрема неповнолітніх.
Керуюча компанія звернулася до мешканців із проханням мінімізувати вигул собак на території комплексу, оскільки сліди життєдіяльності тварин нібито псують вигляд білосніжних кучугур.
Польща розпочне розслідування можливих зв’язків покійного сексуального злочинця Джеффрі Епштейна з російськими спецслужбами, а також з’ясує, чи могли його дії мати будь-який вплив на безпеку країни. Про це заявив прем’єр-міністр Дональд Туск.
“Суспільне” опублікувало кадри з території Дарницької ТЕЦ у Києві, котра зазнала значних руйнувань внаслідок нещодавнього масованого обстрілу з боку російських військ.
Президент США Дональд Трамп повідомив, що провів “чудову” телефонну розмову з китайським колегою Сі Цзіньпіном.
Адміністрація Дональда Трампа вирішила відкликати 700 федеральних агентів із Міннесоти. Попри це, у штаті залишаться близько двох тисяч силовиків для продовження операцій із затримання мігрантів.