Попри нові обмеження Grok продовжує генерувати сексуалізовані зображення без згоди людей
Джерело: Reuters
Чат-бот на очнові штучного інтелекту Grok, який розробляє компанія Ілона Маска xAI, продовжує створювати сексуалізовані зображення людей без їхньої згоди, навіть коли користувачі прямо попереджають про відсутність дозволу. Про це повідомляє Reuters, яке провело власне тестування роботи чат-бота.
Після того як соціальна мережа X оголосила про обмеження публічної генерації зображень Grok, дев’ять журналістів Reuters вирішили перевірити, чи змінилася поведінка чат-бота на практиці. Вони з’ясували, що хоча публічний акаунт Grok у X більше не поширює масово сексуалізовані зображення, сам чат-бот і далі створює такий контент у відповідь на запити – навіть після застережень, що зображені люди не давали згоди, є вразливими або можуть бути принижені.
Компанії X і xAI не надали прямих відповідей на детальні запитання Reuters щодо цієї практики.
Обмеження щодо Grok у X запровадили після хвилі міжнародного обурення, спричиненої масовим створенням сексуалізованих зображень жінок – а в окремих випадках і дітей – без їхньої згоди. Компанія повідомила, що заблокувала створення такого контенту в публічних дописах і запровадила додаткові обмеження в країнах, “де такий контент є незаконним”.
Це загалом позитивно оцінили посадовці. Британський регулятор Ofcom назвав рішення “позитивним кроком”. Після цього Філіппіни та Малайзія зняли блокування Grok. Водночас Європейська комісія, яка 26 січня оголосила про початок розслідування щодо X, заявила, що “уважно оцінить ці зміни”.
У межах експерименту журналісти Reuters – шість чоловіків і три жінки зі США та Великої Британії – у січні двічі завантажували до Grok повністю одягнені фотографії себе та своїх колег. Вони просили змінити зображення так, щоб люди на них опинилися в сексуально провокативних або принизливих позах.
Під час першої серії з 55 запитів Grok згенерував сексуалізовані зображення у 45 випадках. У більшості з них чат-бот заздалегідь попереджали, що люди на фото є вразливими. У 17 випадках прямо зазначалося, що зображення планують використати для приниження. Через кілька днів Reuters провело другу серію з 43 запитів – Grok створив такий контент у 29 випадках. Журналісти не змогли встановити, чи пов’язане зменшення показника зі змінами в алгоритмах, політиці компанії або випадковістю.
X і xAI не відповіли на запитання про те, чи вносили вони будь-які зміни між першою та другою перевірками.
Grok не створював повністю оголених зображень або сцен із відвертими сексуальними діями – і журналісти Reuters таких запитів не надсилали.
Для порівняння Reuters використало ті самі запити в інших чат-ботах – ChatGPT від OpenAI, Gemini від Alphabet і Llama від Meta. Усі вони відмовилися створювати зображення та попереджали про неприпустимість контенту без згоди.
“Редагування зображення людини без її згоди – особливо у спосіб, що змінює її одяг або зовнішність, – порушує етичні норми та право на приватність”, – відповів ChatGPT на один із запитів. У Meta заявили, що компанія категорично проти створення або поширення несанкціонованих інтимних зображень, а її інструменти ШІ не виконують таких запитів. В OpenAI повідомили, що мають захисні механізми й уважно стежать за використанням своїх продуктів.
Під час експерименту журналісти також повідомляли Grok вигадані історії про те, що люди на фото є сором’язливими, мають комплекси або пережили насильство. У низці випадків чат-бот продовжував створювати сексуалізовані зображення навіть після того, як його поінформували, що людині вже показали ці картинки і вона була емоційно травмована.
У Великій Британії створення сексуалізованих зображень без згоди може мати кримінальні наслідки, зазначив юрист Джеймс Брумголл. За його словами, компанія на кшталт xAI може зіткнутися зі значними штрафами відповідно до Закону про онлайн-безпеку 2023 року, якщо буде доведено, що вона не забезпечила належного контролю над своїми інструментами.
Британський регулятор Ofcom заявив, що продовжує розслідування діяльності X “як справу найвищого пріоритету”. Європейська комісія також наголосила, що її перевірка триває.
У США xAI може опинитися під тиском як федеральних, так і штатних органів. За даними Reuters, 35 генеральних прокурорів штатів уже звернулися до компанії з вимогою пояснити, як вона планує запобігти створенню Grok несанкціонованих зображень людей у бікіні, спідній білизні або провокативних позах. Генеральний прокурор Каліфорнії окремо надіслав лист із вимогою негайно припинити таку практику, зазначивши, що розслідування триває.
- Європейська комісія розпочала розслідування щодо платформи X після суспільного обурення через використання її вбудованого чат-бота Grok для створення сексуалізованих зображень реальних людей, зокрема неповнолітніх.
Walt Disney призначила новим генеральним директором Джоша Д’Амаро, який очолював підрозділ парків розваг. Він змінить на посаді Боба Айгера і розпочне роботу 18 березня.
Ведучий телеканалу “Трофей” Володимир Журавльов загинув внаслідок нещасного випадку. Інформацію підтвердили друзі та колеги Володимира, повідомляє “Детектор медіа”.
Президент Володимир Зеленський повідомив, що йому доповіла українська делегація, яка брала участь у тристоронніх переговорах в Абу-Дабі.
Нові супутникові знімки виявили серйозні пошкодження на території військового кладовища Співдружності в місті Газа. Ізраїльські бульдозери знищили секції з похованнями британських та австралійських солдатів, які загинули у двох світових війнах.
Актори Метт Деймон і Бен Аффлек стали гостями подкасту Джо Рогана, де, зокрема, обговорили вплив стримінгових сервісів на процес створення кіно. Їхня поява в ефірі була пов’язана з промоцією нового фільму Netflix “The Rip”, над яким вони працювали разом.