ChatGPT дає підліткам небезпечні інструкції щодо наркотиків,дієт і самогубства: дослідження
Джерело: Associated Press
Нове дослідження показало, що модель на основі штучного інтелекту ChatGPT може надавати неповнолітнім небезпечні поради, зокрема щодо вживання алкоголю і наркотиків, приховування розладів харчової поведінки або навіть написання передсмертних записок.
Дослідники британсько-американського Центру протидії цифровій ненависті листувалися з чатботом та видавали себе за вразливих підлітків. Коли до чатбота зверталися з небезпечними запитами, спершу він попереджав користувачів про загрозу, але потім давав детальні й персоналізовані інструкції, пов’язані з вживанням наркотиків, небезпечними дієтами або самоушкодженням.
Більше ніж половину з 1200 відповідей аналітики класифікували як небезпечні.
Керівник Центру протидії цифровій ненависті Імран Ахмед розповів, що його найбільше шокували три варіанти передсмертних записок, створені ChatGPT для вигаданого профілю 13-річної дівчинки, з індивідуальними зверненнями до батьків, братів, сестер і друзів.
Фахівці також встановили, що навіть коли ChatGPT відмовлявся обговорювати шкідливі теми, можна було легко обійти цю заборону, пояснивши, що інформація потрібна “для презентації” або для друга.
У половині випадків чатбот сам пропонував додаткові матеріали – від музичних плейлистів для вечірки з наркотиками до гештегів, які збільшують охоплення постів, що романтизують селфхарм.
Згідно з результатами нового дослідження, ChatGPT не перевіряє вік користувача чи згоду батьків, навіть якщо заявляє, що сервіс не призначений для дітей до 13 років.
Під час експерименту чатбот надав вигаданому 13-річному хлопцю детальний план поєднання алкоголю, екстазі, кокаїну та інших наркотиків на вечірці.
Іншому фейковому профілю 13-річної дівчинки, незадоволеної своєю зовнішністю, ChatGPT запропонував план екстремального голодування на 500 калорій на день у поєднанні з препаратами, що пригнічують апетит.
Виконавчий директор компанії OpenAI Сем Альтман назвав “надмірну емоційну залежність” від технології поширеним явищем серед молоді, зазначивши, що компанія намагається зрозуміти, як цьому запобігти.
Міністр оборони Ізраїлю Ісраель Кац заявив, що ізраїльські військові й надалі можуть діяти в Лівані для усунення загроз. За його словами, армія залишатиметься на позиціях у так званій зоні безпеки на півдні країни.
В Індії мільйони абітурієнтів повторно складають іспит NEET-UG, необхідний для вступу до медичних коледжів. Попереднє тестування скасували після звинувачень у витоку завдань, що спричинило протести та політичний скандал.
Переговори між США та Іраном у Швейцарії продовжилися, попри повідомлення іранських медіа про їхнє припинення. Головною перешкодою для домовленостей залишається ситуація в Лівані, де Ізраїль веде операції проти “Хезболли”.
Президент США Дональд Трамп пригрозив Ірану новими ударами, якщо Тегеран не зупинить “Хезболлу” в Лівані. Заява пролунала на тлі мирних переговорів між американськими та іранськими посадовцями у Швейцарії.
Кір Стармер може вже в понеділок оголосити про майбутній відхід із посади прем’єр-міністра Великої Британії. Усередині Лейбористської партії посилюється тиск на нього, а головним претендентом на заміну називають Енді Бернема.