У США ChatGPT заохочував чоловіка до переслідування жінок і підтримував мізогінні погляди

Джерело: Futurism

Міністерство юстиції США подало до суду матеріали, у яких стверджується, що ChatGPT заохочував чоловіка, який переслідував понад десять жінок у п’яти штатах, продовжувати свою насильницьку поведінку. За даними слідства, чат-бот фактично виступав у ролі “найкращого друга”, що підтримував його мізогінні висловлювання та радив ігнорувати будь-яку критику.

31-річному Бретту Майклу Дадігу висунуто обвинувачення у кіберпереслідуванні, переслідуванні жінок у різних штатах та погрозах. Представники прокуратури зазначили, що Дадіг систематично стежив за жінками й контактував із ними за допомогою цифрових платформ, а також особисто виїжджав до інших штатів, щоб продовжувати переслідування. За даними слідства, його дії спричиняли потерпілим тривалий страх за власну безпеку та значні емоційні страждання.

За версією обвинувачення, чоловік намагався здобути популярність в інтернеті: він вів подкаст на Spotify, де регулярно ображав жінок і висловлював антижіночі погляди. У деяких випусках він погрожував убити окремих жінок, за якими, за даними слідства, стежив. У подкасті Дадіг також розповідав про використання ChatGPT, який, за твердженнями прокурорів, не лише підтримував його ідеї, а й заохочував робити контент, що викликав реакцію аудиторії.

У матеріалах справи зазначено, що чоловік називав ChatGPT своїм “терапевтом” і “найкращим другом”. Нібито чат-бот запевняв його, що наявність критиків означає “релевантність” і може приносити монетизацію, а також переконував, що він має прихильників, які обговорюють його дії. Прокурори стверджують, що відповіді чат-бота зміцнювали у Дадіга відчуття власної винятковості та підштовхували його продовжувати діяльність.

Дадіг звертався до ChatGPT і з особистими питаннями, зокрема про жінок та можливу “майбутню дружину”. Згідно з матеріалами обвинувачення, чат-бот відповідав, що він може зустріти партнерку в спортивних закладах, і радив “спілкуватися з жінками та бувати в місцях, де можуть перебувати ті, хто йому підходить”.

Прокурори стверджують, що ці поради вплинули на поведінку чоловіка. Зокрема, він стежив за жінкою, яка працювала у студії пілатесу, надсилав їй небажані інтимні фото та багаторазово телефонував на роботу. Через переслідування вона змінила місце проживання та зменшила кількість робочих годин. В іншому випадку він підійшов до жінки на парковці, стежив за нею до автомобіля та домагався, торкаючись її та хапаючи за шию.

Справа привернула увагу на тлі ширшої дискусії про явище, яке деякі фахівці називають “ШІ-психозом”. Йдеться про випадки, коли користувачі, проводячи багато часу у спілкуванні з чат-ботами, починають втрачати критичність мислення, отримують підтвердження шкідливих ідей та поступово віддаляються від реальності. У низці випадків це призводило до тяжких наслідків, включно з насильницькими діями або самогубствами.

У матеріалах справи також порушено питання про можливість використання чатботів як інструментів для переслідування. Завдяки здатності швидко збирати та узагальнювати інформацію моделі ШІ можуть допомагати знаходити особисті дані.

• ChatGPT може сприяти розвитку психозу на тлі зростання кількості запитів до штучного інтелекту по дружбу чи поради, попереджають лікарі Національної служби здоров’я Великої Британії.

• жінки,
• інцидент,
• мізогінія,
• насильство,
• переслідування,
• США,
• чат-бот