В OpenAI вважають, що GPT-4 становить незначний ризик у створенні біологічної зброї

Джерело: Bloomberg

GPT-4 від OpenAI може представляти невеликий ризик у сприянні людям у створенні біологічних загроз, свідчать попередні тести компанії. Ці тести проведено з метою з’ясування та запобігання можливій “катастрофічній” шкоді від їхньої технології.

Багато експертів та керівників технологічних компаній висловлювали побоювання щодо того, чи може штучний інтелект допомагати зловмисникам у створенні біологічної зброї.

Під час дослідження OpenAI залучила 50 експертів з біології та 50 студентів, що вивчають біологію на рівні коледжу. Половині учасників було запропоновано завдання, пов’язані зі створенням біологічної загрози, використовуючи Інтернет та GPT-4. Інша половина мала доступ лише до Інтернету.

Аналізуючи результати обох груп, дослідники виявили невелике підвищення “точності та повноти для тих, хто мав доступ до мовної моделі”. Вони дійшли висновку, що доступ до GPT-4 “забезпечує щонайбільше невелике поліпшення збору інформації для створення біологічної загрози”.

Цей висновок в OpenAI вважають вихідною точкою для подальших досліджень і обговорень у суспільстві. Минулої осені OpenAI оголосила про створення нової команди, яка досліджуватиме моделі штучного інтелекту для захисту від того, що вони називають “катастрофічними ризиками”.

Генеральний директор OpenAI Сем Альтман, який займався проєктом щодо залучення мільярдів доларів від світових інвесторів для виробництва мікросхем, хоче використати кошти для створення мережі заводів із виробництва напівпровідників.