Перед звільненням Альтмана директорів OpenAI попередили про «потужне відкриття в галузі ШІ»

Джерело: Reuters

Напередодні звільнення Сема Альтмана з посади СЕО OpenAI кілька дослідників компанії надіслали раді директорів листа, в якому йшлося про “потужне відкриття в галузі штучного інтелекту, яке може загрожувати людству”.

Як розповіли в агентстві, цей лист став одним із факторів, які призвели до звільнення Альтмана, серед яких були занепокоєння щодо комерціалізації досягнень ще до того, як будуть зрозумілими наслідки.

За словами співрозмовників видання, йшлося про проєкт під назвою Q*, що може стати проривом у тривалих пошуках компанією так званого універсального штучного інтелекту (AGI) – автономної ШІ-системи, яка перевершує людину у виконанні більшості економічно цінних завдань. Маючи величезні обчислювальні ресурси, нова модель здатна вирішити низку математичних завдань.

Примітно, що дослідники називають математику межею розвитку генеративного ШІ. Зараз він вміє писати і перекладати, статистично передбачаючи кожне наступне слово, а відповіді на одне й те саме запитання можуть значно відрізнятися.

Утім, набуття здатності до математичних обчислень, де є лише одна правильна відповідь, означає, що алгоритм матиме більші можливості для міркувань, подібні до людського інтелекту.

На думку фахівців, це може бути застосовано у нових наукових дослідженнях. Так, на відміну від калькулятора, який може виконувати обмежену кількість операцій, AGI здатен узагальнювати, вчитися й осмислювати.

У своєму листі до ради директорів дослідники вказали на досконалість ШІ та його потенційну небезпеку.

Окрім того, дослідники акцентували на роботі групи “вчених зі штучного інтелекту”, існування якої підтвердили численні джерела. За словами одного з учасників групи, сформованої шляхом об’єднання попередніх команд Code Gen та Math Gen, вони досліджували, як оптимізувати існуючі моделі ШІ, щоб поліпшити їхні міркування і, зрештою, виконувати наукову роботу.

Варто зауважити, що минулого тижня компанія OpenAI заявила про повернення Сема Альтмана на посаду СЕО.

Рада директорів OpenAI в п’ятницю, 17 листопада, звільнила генерального директора компанії Сема Альтмана.
Рада директорів компанії штучного інтелекту OpenAI вела переговори із Семом Альтманом, якого нещодавно звільнили з посади генерального директора, про можливість його повернення в компанію.
Корпорація Microsoft найняла на роботу ексгендиректора OpenAI Сема Альтмана та співзасновника Грека Брокмана. Вони разом долучаться до нової дослідницької команди із передового штучного інтелекту.
В OpenAI деякі інвестори з юридичними консультантами вивчали можливість подання судового позову проти ради директорів через звільнення гендиректора Сема Альтмана. Додатковою причиною є те, що його звільнення спровокувало потенційний масовий відтік співробітників.
Майже увесь персонал OpenAI погрожував звільнитися та перейти до Microsoft. Вони вимагають, аби чинне керівництво компанії подало у відставку після звільнення колишнього гендиректора Сема Альтмана.