Channel IASAedu 🇺🇦 - @iasa_edu - №1138
Junior MLOps Engineer interview: Canary VS Blue-Green#Edu_preparationЯка різниця між стратегіями розгортання Canary та Blue-Green?Коли ми випускаємо нову версію ML-моделі в продакшен, головна мета — зробити це без ризику «покласти» систему для користувачів. Для безпечного оновлення найчастіше використовують дві стратегії:1. Blue-Green Deployment (Миттєве перемикання)Підтримуються два абсолютно ідентичні середовища.• Blue (поточне) — стабільна версія моделі, яка зараз обробляє 100% реального трафіку.• Green (нове) — середовище, куди розгортається нова версія.Коли Green повністю протестовано, балансувальник навантаження миттєво перемикає всі 100% трафіку з Blue на Green.Плюси: Найбезпечніший і найшвидший відкат (rollback). Якщо нова модель зламалася, ви просто перемикаєте трафік назад на Blue за секунду.Мінуси: Дорого. Вам потрібно тимчасово підтримувати x2 інфраструктури (ресурсів).2. Canary Deployment (Поступове розгортання)Нова версія моделі («канарка») розгортається паралельно зі старою, але на неї спрямовується лише крихітна частина реального трафіку (наприклад, 5%).Якщо моніторинг показує, що з моделлю все добре (немає помилок, затримка в нормі), відсоток трафіку поступово збільшують: 5% -> 25% -> 50% -> 100%.Плюси: Мінімізація ризиків. Якщо нова модель видає погані прогнози, це вплине лише на 5% користувачів, а не на всіх одразу. Економніше за Blue-Green.Мінуси: Більш складне налаштування маршрутизації трафіку та моніторингу. Розгортання займає більше часу.Blue-Green — це про швидке перемикання та миттєвий відкат ціною подвоєних ресурсів.Canary — це про обережне, поступове тестування на реальних користувачах із мінімізацією шкоди у разі помилки.
469
26-05-07 07:02