Канада вимагає пояснень від топменеджерів OpenAI після стрілянини у школі

Джерело: Reuters.

Уряд Канади ініціював прямі переговори з керівництвом OpenAI після резонансної випадку, пов’язаного зі стріляниною в школі. Оттава планує поставити питання, чому компанія не передала державним органам інформацію про потенційні ризики, пов’язані з поведінкою користувача своїх сервісів.

Міністр штучного інтелекту Канади Еван Соломон повідомив, що до Оттави викликано представників американської команди OpenAI, відповідальної за безпеку. За його словами, влада хоче отримати чітке пояснення щодо того, як працюють внутрішні механізми реагування компанії на загрози та в яких випадках інформація передається правоохоронцям.

Інцидент стався на початку місяця, коли 18-річний хлопець із психічними проблемами відкрив вогонь у невеликому місті на заході країни, поранивши вісьмох осіб, а згодом вчинив самогубство. У OpenAI підтвердили, що обліковий запис цього користувача в ChatGPT було попредньо заблоковано за порушення правил платформи, однак у компанії заявили, що ці дії не підпадали під критерії обов’язкового інформування поліції.

Соломон наголосив, що канадський уряд розглядає різні сценарії подальших дій, аби посилити захист громадян від онлайн-загроз.

“Ми розглядаємо всі можливі варіанти (ориг. All options are on the table)”, – заявив міністр, не вдаючись у деталі можливих рішень.

Компанія OpenAI почала впроваджувати в ChatGPT механізм оцінки віку користувачів. Його мета – автоматично визначати облікові записи, які можуть належати неповнолітнім, і застосовувати до них додаткові обмеження щодо доступного контенту.
Команія Open AI звільнила віцепрезидентку з продуктової політики Раян Бейєрмейстер, яка виступала проти введення “дорослого режиму” в ChatGPT. Її звинуватили в дискримінації колеги-чоловіка за ознакою статі.