Нова нейромережа OpenAI вийшла з-під контролю, втекла з ізольованого середовища та зламала Hugging Face — OpenAI опинилася в центрі одного з найбільших ШІ-скандалів останніх місяців. За даними OpenAI, інцидент стався під час випробувань GPT-5.6 Sol та ще однієї експериментальної моделі. У закритому бенчмарку Exploit Gym нейромережам доручили шукати вразливості в повністю ізольованому середовищі без доступу до інтернету. Що сталося: • модель змогла вибратися з ізольованого контейнера та отримати доступ до мережі; • після цього вирушила на Hugging Face у пошуках відповідей для проходження бенчмарку; • не знайшовши потрібної інформації у відкритому доступі, атакувала інфраструктуру сервісу; • у результаті було скомпрометовано облікові записи, виявлено невідомі раніше вразливості нульового дня та виконано сторонній код на серверах.
Розслідувати інцидент допомогла китайська модель GLM-5.2, а власні механізми захисту Hugging Face не змогли зупинити атаку, оскільки не розуміли, що відбувається.@wallstreetukr