Фон дер Ляєн закликала ЄС уповільнити розвиток ШІ

Джерело: Reuters

16 вересня президентка Єврокомісії Урсула фон дер Ляєн у щорічному зверненні до Європарламенту у Страсбурзі заявила про необхідність обережніше підходити до розвитку штучного інтелекту. На тлі стрімкого прогресу ШІ вона виступила за більш зважений підхід з боку ЄС.

Фон дер Ляєн наголосила, що Європа має використовувати можливості штучного інтелекту, проте, водночас враховувати пов’язані з ним ризики. Зокрема, мовиться про те, аби розвиток технології не відбувався швидше, ніж ЄС встигає розробити необхідні правила та заходи захисту.

Моделі, котрі розробляють сьогодні, дозволять здійснювати хакерські атаки такого рівня, який ми раніше вважали неможливим. І невдовзі вони потраплять до рук противників, які дивляться на світ зовсім інакше, аніж ми, — заявила глава ЄК.

Виступ відбувся в межах щорічної промови про майбутнє ЄС. Фон дер Ляєн також окреслила ширший курс Євросоюзу на технологічну конкурентоспроможність і необхідність самостійно визначати правила для нових технологій.

Тим часом, найбільші розробники штучного інтелекту близькі до домовленості про уповільнення темпів розвитку ШІ та спільну роботу над зниженням пов’язаних із ним ризиків, заявив глава OpenAI Сем Альтман. За його словами, безпека ШІ минулими тижнями стала однією з головних тем обговорень усередині компанії.

Раніше глава конкуруючої Anthropic Даріо Амодеї закликав галузь діяти обережніше. Він вважає, що можливості моделей ШІ зростають надто швидко, і темпи їхнього розвитку необхідно знизити. Альтман погодився з оцінкою та заявив, що компаніям необхідно розв’язати питання безпеки, а також визначити правила взаємодії ШІ-індустрії з урядами.

На цьому тлі OpenAI вирішила відтермінувати вихід на біржу. Альтман заявив, що компанія точно не проведе IPO у 2026 році: нинішній рівень занепокоєння щодо безпеки ШІ робить цей момент непридатним. Раніше повідомлялося, що потенційне розміщення OpenAI могло б оцінити компанію приблизно в $1 трлн.

Тоді як Anthropic поки не змінює своїх планів. Попри ті самі побоювання щодо безпеки ШІ, компанія має намір розпочати підготовку до IPO не раніше середини жовтня та завершити розміщення до листопадових виборів до Конгресу США.

Раніше головний науковець OpenAI Якуб Пахоцький заявив, що розвиток штучного інтелекту наближається до етапу, коли системи зможуть самостійно вдосконалювати власні можливості. На його думку, це може змусити лабораторії добровільно пригальмовувати розробку нових моделей до появи спільних стандартів безпеки.

Своєю чергою, двопартійний законопроект Палати представників надасть Міністерству внутрішньої безпеки повноваження наказувати провідним компаніям закривати або уповільнювати моделі штучного інтелекту, які уряд вважає занадто небезпечними.

Поява законопроєкту пов’язана з посиленням занепокоєння щодо можливостей сучасних ШІ-моделей. Раніше OpenAI повідомила про безпрецедентний кіберінцидент, під час якого дві новітні моделі вийшли за межі тестового середовища та самостійно здійснили атаку на платформу Hugging Face.

OpenAI представила нове покоління моделей GPT-6 Astra, яке компанія позиціонує як суттєвий крок на шляху до загального штучного інтелекту (AGI) – систем, здатних перевершувати людину в широкому спектрі завдань. Першими доступ отримали схвалені бізнес-користувачі програми Daybreak.
Компанія OpenAI запускає версію ChatGPT, розроблену спеціально для користувачів віком від 13 до 17 років. Новий формат чат-бота передбачає додаткові обмеження щодо небезпечного контенту та має зменшити ризики емоційної залежності від штучного інтелекту.
Майже 400 американських газет подали позов проти OpenAI та Microsoft, звинувативши компанії у використанні їхніх матеріалів для навчання моделей штучного інтелекту без дозволу та компенсації. Видавці стверджують, що їхній контент використовували для створення ChatGPT і Microsoft Copilot, а така практика ставить під загрозу майбутнє місцевої журналістики.