🔄 Продовжуючи минулий пост про APIM… Зраділи ми, що можна керувати лімітами LLM моделей на рівні інфраструктури через API Management ⚙️. Але коли копнули глибше — вперлися у великий цінник 💸. У продакшні наш застосунок захищений приватною мережею VNet 🌐. А мінімальний план API Management, який підтримує VNet — це Standard V2 за ~$700/місяць. Це забагато, і клієнти не готові за таке платити 🙅‍♂️. Так, є ще Developer план, і, можливо, він підійде для невеликих сценаріїв. Але Microsoft позиціонує його як Non-production use cases and evaluations, і тут вже трохи стрьомно 🤔. Тому для нашого застосунку ми реалізуємо щось подібне на рівні коду 👨‍💻. Для сценарію, коли ми деплоїмо застосунок ізольовано й не хочемо збільшувати вартість інфраструктури. Але, думаю, APIM — це гарний варіант для цієї задачі, і на нього варто подивитися більш комплексно 🧩.

👉 Його правильно використовувати як спільний ресурс у межах організації чи регіону. У такому випадку це буде раціонально і з точки зору витрат 💰, і з точки зору централізованого управління 🔐.✍️ TL;DR:APIM дорого піднімати під один застосунок ($700/місяць), але вигідно й логічно мати його як shared resource для кількох застосунків/сервісів у межах організації.

Трохи пізніше поділюся переліком інших сервісів, які теж варто шерити 🗂.