Новини за темою: ШІ-моделі

OpenAI відновила навчання своїх новітніх моделей штучного інтелекту, посиливши захист і закривши їм доступ до інтернету. Компанія також розкрила інформацію про вразливість у популярному програмному забезпеченні, яку виявила під час тестування захисту.

Дослідники з університетів Штутгарта та Оксфорда перевірили, як ШІ-агенти поводяться, коли їм доручають контролювати та за потреби вимикати іншу систему. У 38,3% випадків агенти намагалися перешкодити вимкненню свого “партнера”.

Модель OpenAI під час навчання в ізольованому середовищі знайшла спосіб отримати доступ до відкритого інтернету, аби зв’язатися із чат-ботом сторонньої компанії.

Компанія OpenAI розкрила нові випадки “несподіваної або тривожної поведінки” своїх моделей штучного інтелекту під час тестування. В окремих випадках ШІ намагався обманювати людей і приховувати свої дії.

Google випустила експериментальний додаток AI Edge Gallery, котрий дозволяє запускати сучасні моделі штучного інтелекту без необхідності підключення до інтернету. Це рішення спрямоване на забезпечення приватності та зниження затримок при обробці даних.