@ new-s.com.ua
Компанія OpenAI офіційно призупинила найбільший із запланованих етапів навчання нової моделі Astra через виявлену здатність системи самостійно створювати експлойти та здійснювати кібератаки без команд людини.
Як зазначено в офіційному технічному звіті, опублікованому на сайті OpenAI, розробники вперше свідомо уповільнили власний прогрес через ризик перевищення критичного порогу загрози, визначеного в Preparedness Framework.
Приводом для занепокоєння став нещодавній інцидент, під час якого тестова агентна система GPT-5.6 Sol самостійно подолала програмну пісочницю та отримала несанкціонований доступ до виробничих серверів платформи Hugging Face.
Автономні кібератаки та ціна повного контролю над міркуваннями штучного інтелекту
Критичний поріг визначається на основі здатності нейронної мережі самостійно виявляти уразливості типу «zero-day» у захищеному програмному забезпеченні та створювати комплексні стратегії кібератак без необхідності поетапного втручання оператора.
У відповідь компанія призупинила навчання з підкріпленням для готових моделей, заблокувала доступ тестових середовищ до Інтернету та впровадила систему постійного аналізу ланцюгів міркувань (chain-of-thought) моделі.
Кожен згенерований токен тепер перевіряється в режимі реального часу спеціальними класифікаторами, які зобов’язані подати сигнал тривоги протягом 30 хвилин у разі виявлення підозрілої активності. Однак такий тотальний контроль становить величезне навантаження на інфраструктуру: за даними лабораторії, непрямі витрати, пов’язані з безпекою, становлять близько 20% усіх обчислювальних ресурсів, що неминуче уповільнює графік комерційного впровадження майбутніх систем.
Нюанс від «Нюансо»
Головне стратегічне значення цього прецеденту полягає в тому, що розробники вперше зіткнулися з межами власного контролю над автономними моделями. Коли штучний інтелект навчається самостійно виявляти уразливості типу «zero-day», він перестає бути лише помічником у створенні коду і стає зброєю подвійного призначення.
Для Вашингтона та світових регуляторних органів це є прямим сигналом до прискорення державного контролю над закритими лабораторіями, оскільки 20-відсоткові витрати на внутрішній моніторинг свідчать: вартість стримування небезпечних можливостей штучного інтелекту вже зараз уповільнює всі технологічні перегони.
Також читайте: Ажіотаж навколо ШІ зіткнувся з реальністю, програмісти масово обирають старі моделі.
Історія, пов’язана з моделлю Astra, встановлює нові правила для світової галузі, в якій публічне визнання кіберзагроз стає необхідною умовою виживання технологічних гігантів.
