WSJ: Чат-боти ШІ передавали користувачам інструкцію про створення біологічної зброї

Джерело: The Wall Street Journal

Після оновлення ChatGPT у 2025 році сотні користувачів у світі зверталися до чат-бота із запитами стосовно створення та використання біологічної зброї й отрут. Деякі відповіді штучного інтелекту експерти назвали небезпечно точними.

За даними видання, після покращення можливостей моделі частина користувачів намагалася отримати через ChatGPT інформацію про розробку біологічних загроз. Деякі відповіді містили покрокові пояснення, які співробітники OpenAI описували як достатньо прості для розуміння навіть учнем із базовими знаннями біології.

Біологи та експерти з протидії тероризму, які аналізували окремі діалоги, заявили, що деякі відповіді були “смертельно точними”. Водночас у OpenAI зазначили, що більшість небезпечних запитів стосувалися створення отрут.

На початку 2026 року деякі користувачі намагалися отримати від ChatGPT інформацію про способи поширення інфекційних збудників. Один із користувачів цікавився зміною вірусу кору так, щоб спалах захворювання став стійким до вакцини. Інший питав про створення рицину – забороненої високотоксичної речовини. Компанія згодом заблокувала облікові записи користувачів, проте не стала повідомляти про подібні запити правоохоронним органам. У США немає законів, які б зобов’язали ШІ-компанії обмежувати такі запити або розкривати інформацію.

У компанії заявили, що у 2025 році створили систему для виявлення користувачів, які можуть намагатися використовувати ШІ для розробки біологічної зброї. Однак виявлення таких намірів залишається складним завданням через масштаб використання сервісів — нині ChatGPT отримує близько 2,5 млрд запитів на день.

Користувачі можуть обходити обмеження

Дослідження засвідчили, що користувачі можуть обходити встановлені обмеження, змінюючи формулювання запитів. За словами керівниці напряму дослідження загроз і безпеки Cisco Емі Чанг, під час тестування моделей ChatGPT, Claude та Gemini дослідники змогли отримати потенційно небезпечні відповіді після кількох етапів взаємодії. За її словами, жодну модель не застраховано на 100%, особливо якщо користувач наполегливий.

Експерти попереджають, що розвиток штучного інтелекту може спростити підготовку терористичних атак. За словами Хамзи Чаудрі з Future of Life Institute, для зловмисників-одинаків такі системи можуть стати інструментом планування, тоді як для організованих груп — допоміжним ресурсом для розробки сценаріїв.

Як зазначається, питання ризиків використання ШІ для створення біологічної зброї раніше обговорювали у Білому домі та Пентагоні.

Раніше компанія OpenAI заявила, що автономний ШІ-агент на базі її найсучасніших моделей під час тестування вийшов з-під контролю та здійснив хакерську атаку на інфраструктуру сторонньої компанії Hugging Face.

• Майже 400 американських газет подали позов проти OpenAI та Microsoft, звинувативши компанії у використанні їхніх матеріалів для навчання моделей штучного інтелекту без дозволу та компенсації. Видавці стверджують, що їхній контент використовували для створення ChatGPT і Microsoft Copilot, а така практика ставить під загрозу майбутнє місцевої журналістики.
• Генеральний директор OpenAI Сем Альтман під час візиту до Вашингтона виступить проти ідеї зобов’язати розробників ШІ отримувати дозвіл уряду США перед запуском нових моделей. Натомість компанія пропонує розширити державне тестування таких систем.

• біологічна зброя,
• інструкція,
• чат-бот ШІ