Нейромережа Grok більше не генеруватиме оголені зображення реальних людей

Джерело: The Guardian

Платформа X, що належить Ілону Маску, оголосила про обмеження роботи ШІ-інструмента Grok. Зокрема, сервіс більше не дозволятиме створювати або редагувати зображення реальних людей у сексуалізованому вигляді, зокрема в бікіні чи спідній білизні, у країнах, де така практика є незаконною. Про це повідомили після тривалого суспільного обурення у Великій Британії.

Уряд Сполученого Королівства заявив, що вважає це рішення “підтвердженням своєї правоти” після різкої критики з боку прем’єр-міністра Кіра Стармера, який раніше назвав збереження цієї функції для платних користувачів “жахливим”.

Після двох тижнів публічних скарг на те, що вбудований у X інструмент використовується для створення сексуалізованих зображень жінок і дітей, компанія заявила, що відключить можливість користувачів “створювати зображення реальних людей у бікіні, спідній білизні та подібному одязі через обліковий запис Grok і Grok у X” у країнах, де це суперечить закону. Заборона поширюється також на преміум-передплатників.

У X зазначили, що ці зміни будуть запроваджені у Великій Британії відповідно до змін у законодавстві, які уряд пообіцяв ухвалити найближчим часом. Компанія також заявила, що має “нульову толерантність до будь-яких форм сексуальної експлуатації дітей, оголення без згоди та небажаного сексуального контенту”. Водночас у повідомленні не уточнюється, чи залишиться можливість створення подібних зображень у окремому застосунку Grok.

У понеділок британський регулятор у сфері медіа Ofcom розпочав офіційне розслідування щодо платформи X після того, як з’явилися “вкрай тривожні” повідомлення про використання Grok для створення й поширення незаконних інтимних зображень без згоди та матеріалів сексуального насильства над дітьми.

Увага до Grok посилилася і за межами Великої Британії після того, як стало відомо, що деякі користувачі застосовували інструмент для цифрового “роздягання” жінок і дітей без їхньої згоди та поширювали ці зображення у X. За останні тижні на платформі з’явилися тисячі таких матеріалів.

Оголошені зміни з’явилися через кілька годин після того, як мільярдер написав у соцмережі: “Я не знаю про жодні згенеровані Grok оголені зображення неповнолітніх. Буквально нуль”.

xAI та X зіткнулися зі зростаючою критикою у світі, зокрема з розслідуванням з боку генерального прокурора Каліфорнії та закликами законодавців і правозахисних організацій до Apple і Google видалити Grok із магазинів застосунків. Деякі країни, зокрема Малайзія та Індонезія, уже запровадили заборони або розпочали юридичні дії.

У заяві X зазначено: “Ми вживаємо заходів для видалення контенту з високим рівнем порушень, зокрема матеріалів сексуального насильства над дітьми та оголення без згоди, і застосовуємо відповідні санкції до акаунтів, які порушують правила X. Ми також повідомляємо правоохоронні органи про акаунти, що шукають матеріали сексуальної експлуатації дітей, у разі необхідності”.

Ілон Маск заявив, що Grok запрограмований відмовлятися від незаконних запитів і має дотримуватися законів кожної країни або штату. “Очевидно, Grok не створює зображення спонтанно. Він робить це лише за запитами користувачів”, – сказав він. Раніше Маск також наголошував, що використання Grok для створення незаконного контенту тягнутиме ті самі наслідки, що й поширення заборонених матеріалів.

Минулого тижня X уже обмежила можливість Grok публічно створювати або редагувати зображення для користувачів без платної підписки. Водночас галузеві експерти та наглядові органи зазначали, що інструмент і надалі здатний генерувати відвертий контент, а такі обмеження не гарантують повного блокування доступу до глибинних можливостей генерації зображень.

• У Великій Британії створення інтимних зображень людини без її згоди стане кримінальним злочином. Рішення ухвалили на тлі занепокоєнь щодо роботи чат-бота Grok, який належить компанії X.

• Grok,
• X,
• заборона,
• Маск,
• оголені зображення,
• порнографія,
• сексуалізовані зображення,
• чат-бот,
• ші,
• штучний інтелект