Iniciar sesión Registro
Anuncios
Tu espacio publicitario
Reserva este slot exclusivo para el periodo elegido.
Comprar publicidad →
Logotipo de la comunidad de telegram - Microsoft Azure Українською
Añadido 14 jul. 2024

Microsoft Azure Українською

@azureukraine
Número de suscriptores: 1 104
Fotos: 104
Videos: 2
Enlaces: 170
Descripción:
Кращі практики, рекомендації, цікаві кейси Azure Cloud: • сервіси для розробки застосунків; • архітектура; • хостинг інфраструктури; • адміністрування. Для зв’язку - @vitaliy_gerasov LinkedIn - https://www.linkedin.com/in/vitaliy-gerasov-25736178
Fuente

Microsoft Azure Українською | Як порахувати вартість використання GPT-моделей в Azure?Два способи, с...

Logotipo de la comunidad de telegram - Microsoft Azure Українською Microsoft Azure Українською @azureukraine
1 400 Vistas/Alcance 2024-10-10 10:15 Mensaje №216
Як порахувати вартість використання GPT-моделей в Azure?Два способи, спираючись на практику:▪️Стартовий розрахунок — за допомогоюAzure Calculator▪️На базі історичної інформації (метрик)1️⃣ Перший спосіб - дуже приблизний. В Azure Calculator обираємо Azure OpenAI Service, там потрібну модель і вказуємо кількість токенів вхідних та вихідних. На місяць. Вхідні — це prompt, вихідні — відповідь. Треба враховувати скільки користувачів, як часто запити, де та як використовуються GPT-моделі. Кучу всього. Хочеться сказати, що розрахувати майже не реально, але треба рахувати та від чогось відштовхуватися.2️⃣ Другий спосіб більш надійний — на базі історичних даних, коли на виході ми маємо метрики 📊 використання за 1-3 місяці. І тут якраз гарно допоможе розробка MVP або стартувати використанням застосунку невеликими робочими групами. На картинці саме ті необхідні метрики на які можна спиратися. І цей інтерфейс з'явився нещодавно з оновленням Azure OpenAI Studio. Дуже корисний, зверніть на нього увагу.3️⃣ І третій спосіб теж актуальний — не паритися та не рахувати 🙂. Як показує досвід вартість можна корегувати, наприклад граючись з різними моделями, але не суттєво. Треба по трохи звикати до таких цін. AI стрімко розвивається, рано чи пізно всі цим будемо користуватися. І краще чим швидше віднайти як це буде приносити вам вигоду 💰 та цим покривати витрати.