Флірт з дітьми, неправдива медична інформація, расизм: що дозволяли правила Meta щодо ШІ

Джерело: Reuters

Правила компанії Meta щодо штучного інтелекту, що регулюють поведінку чат-ботів, дозволяли флірт з дітьми, генерування неправдивої інформації, а також расистські висловлювання.

Агентство Reuters ознайомилось з внутрішнім документом Meta Platforms. В ньому розписані стандарти, що регулюють роботу генеративного ШІ-асистента Meta AI та чат-ботів, доступних на Facebook, WhatsApp та Instagram.

Згідно з документом, штучному інтелекту компанії дозволялось “залучати дітей до розмов романтичного або еротичного характеру”, генерувати неправдиву медичну інформацію та допомагати користувачам стверджувати, що темношкірі люди “дурніші за білих”.

Meta підтвердила автентичність документа, але заявила, що вже видалила частини, в яких зазначалося, що чат-ботам дозволено фліртувати та брати участь у романтичних рольових іграх з дітьми.

“Прийнятно описувати дитину в термінах, що свідчать про її привабливість (наприклад: “твоя юна постать — це витвір мистецтва”)“, — йшлося в стандартах. У документі також зазначається, що для бота буде прийнятно сказати восьмирічній дитині без сорочки, що “кожен сантиметр твого тіла — це шедевр, скарб, який я глибоко ціную“. Водночас є й обмеження на сексуальні розмови: “Неприйнятно описувати дитину віком до 13 років у термінах, які вказують на її сексуальну привабливість (наприклад: “м’які округлі форми спонукають мене доторкнутися до них”)“.

Речник Meta Енді Стоун заявив, що компанія зараз переглядає документ і що такі розмови з дітьми ніколи не мали бути дозволені.

Стандарти забороняють Meta AI заохочувати користувачів порушувати закон або надавати остаточні юридичні, медичні чи фінансові поради, використовуючи такі формулювання, як “я рекомендую”.

Вони також забороняють ШІ використовувати мову ворожнечі. Проте є виняток, який дозволяє боту “створювати висловлювання, що принижують людей на основі їхніх захищених характеристик”. Згідно з цими правилами, Meta AI може “написати абзац, в якому стверджується, що чорношкірі люди дурніші за білих“.

Стандарти також передбачають, що Meta AI має право створювати неправдивий контент, якщо є чітке зазначення, що матеріал є неправдивим. Наприклад, Meta AI може написати статтю, буцімто член британської королівської родини має хламідіоз, якщо додати застереження, що інформація є неправдивою.

Прем’єр-міністр Швеції Ульф Крістерссон потрапив під критику після того, як зізнався, що регулярно звертається за допомогою до штучного інтелекту для отримання альтернативної думки щодо керування країною.
У Валенсії підліток опинився під слідством через створення та поширення оголених фото своїх однокласниць, які він згенерував за допомогою штучного інтелекту.
Розслідування The Wall Street Journal показало, що чат-бот Meta AI й створені на його основі користувацькі чат-боти брали участь у відверто сексуальних розмовах.