Microsoft Azure Українською

Сервіси, які вигідніше розгортати один раз і шарити між кількома застосунками/сервісамиБільше з точки зору фінансової оптимізації, а також плюс централізоване управління. 🔹 Мережа та безпека Azure Firewall 🔥 – один інстанс може фільтрувати трафік для всіх віртуальних мереж через hub-and-spoke архітектуру.Azure Application Gateway + WAF 🌐 – доцільно мати один шлюз із веб фаєрволом для кількох застосунків.Azure Front Door 🚪 – глобальний CDN + WAF, теж вигідно тримати один інстанс для кількох сервісів.VPN Gateway / ExpressRoute Gateway – один gateway для всієї організації, щоб з’єднати on-premises із Azure. 🔹 Управління доступом і ідентичністю Key Vault 🔑 – зручно тримати централізовано сертифікати, ключі та secrets, а не множити в кожному додатку. 🔹 Моніторинг і логування Azure Monitor / Log Analytics Workspace 📊 – один workspace для збору логів із багатьох застосунків і сервісів. 🔹 Інтеграція та обробка даних API Management ⚙️ – один shared APIM для всіх застосунків у регіоні. ✅ Загальний принцип:Все, що стосується мережі, безпеки, логування і інтеграційних шарів, зазвичай раціонально винести в shared-рівень (hub), а на рівні застосунків залишати лише мінімальні залежності.

🔄 Продовжуючи минулий пост про APIM…Зраділи ми, що можна керувати лімітами LLM моделей на рівні інфраструктури через API Management ⚙️.Але коли копнули глибше — вперлися у великий цінник 💸.У продакшні наш застосунок захищений приватною мережею VNet 🌐. А мінімальний план API Management, який підтримує VNet — це Standard V2 за ~$700/місяць. Це забагато, і клієнти не готові за таке платити 🙅‍♂️.Так, є ще Developer план, і, можливо, він підійде для невеликих сценаріїв. Але Microsoft позиціонує його як Non-production use cases and evaluations, і тут вже трохи стрьомно 🤔.Тому для нашого застосунку ми реалізуємо щось подібне на рівні коду 👨‍💻. Для сценарію, коли ми деплоїмо застосунок ізольовано й не хочемо збільшувати вартість інфраструктури.Але, думаю, APIM — це гарний варіант для цієї задачі, і на нього варто подивитися більш комплексно 🧩.👉 Його правильно використовувати як спільний ресурс у межах організації чи регіону. У такому випадку це буде раціонально і з точки зору витрат 💰, і з точки зору централізованого управління 🔐.✍️ TL;DR:APIM дорого піднімати під один застосунок ($700/місяць), але вигідно й логічно мати його як shared resource для кількох застосунків/сервісів у межах організації.Трохи пізніше поділюся переліком інших сервісів, які теж варто шерити 🗂.

Як порахувати вартість використання GPT-моделей в Azure?Два способи, спираючись на практику:▪️Стартовий розрахунок — за допомогоюAzure Calculator▪️На базі історичної інформації (метрик)1️⃣ Перший спосіб - дуже приблизний. В Azure Calculator обираємо Azure OpenAI Service, там потрібну модель і вказуємо кількість токенів вхідних та вихідних. На місяць. Вхідні — це prompt, вихідні — відповідь. Треба враховувати скільки користувачів, як часто запити, де та як використовуються GPT-моделі. Кучу всього. Хочеться сказати, що розрахувати майже не реально, але треба рахувати та від чогось відштовхуватися.2️⃣ Другий спосіб більш надійний — на базі історичних даних, коли на виході ми маємо метрики 📊 використання за 1-3 місяці. І тут якраз гарно допоможе розробка MVP або стартувати використанням застосунку невеликими робочими групами. На картинці саме ті необхідні метрики на які можна спиратися. І цей інтерфейс з'явився нещодавно з оновленням Azure OpenAI Studio. Дуже корисний, зверніть на нього увагу.3️⃣ І третій спосіб теж актуальний — не паритися та не рахувати 🙂. Як показує досвід вартість можна корегувати, наприклад граючись з різними моделями, але не суттєво. Треба по трохи звикати до таких цін. AI стрімко розвивається, рано чи пізно всі цим будемо користуватися. І краще чим швидше віднайти як це буде приносити вам вигоду 💰 та цим покривати витрати.