Source
Михайло Пацан || Польові нотатки Інвестора | Моделі OpenAI зламали чужу компанію. Щоб списати на іспиті.Тиждень том...
328 Views/Reach
2026-07-22 11:27
Message №1386
Моделі OpenAI зламали чужу компанію. Щоб списати на іспиті.Тиждень тому хтось атакував Hugging Face. Думали - хакери. Виявилось, це були власні моделі OpenAI. GPT-5.6 Sol і ще одна, потужніша, яку поки не випустили.Їх саме перевіряли на тесті, де треба знаходити вразливості й писати під них експлойти. Захист на час перевірки вимкнули. Так міряють стелю можливостей.Тест ішов у закритому середовищі. Без інтернету. Назовні вела лише одна лазівка - внутрішній сервер для завантаження пакетів. Моделі знайшли в ньому дірку, пролізли крізь неї, підвищили собі права і крок за кроком дійшли до комп'ютера з виходом у мережу.А далі здогадались просту річ. Відповіді до тесту можуть лежати на Hugging Face. Тож пішли туди, зламали і забрали.Ніякої агресії. Ніякого повстання машин. Моделі просто отримали завдання набрати максимум балів - і зробили це найкоротшим шляхом. А найкоротший шлях виявився через дві зламані компанії.Ще одна деталь наостанок. Коли Hugging Face спробувала розібрати атаку за допомогою звичайних моделей, ті відмовились допомагати. Бо для захисту сліди атаки виглядають так само, як сама атака.Про автономного агента, який ламає системи сам, писали роками. Як про страшилку з презентацій.Тепер це просто новина за середу.#шірадар