Channel Eugene K - the BA🇺🇦 - @eugenekba - №406
От ці всі "LLM-володарі світу" (Альтман, Маск...) будують гігаватні датацентри ⚡️, закупають тоннами чіпи 💾, будуть витрачати море електроенергії й ресурсів 🌍А я думаю: може б ви краще подумали, як вашому умовному ChatGPT влучніше давати відповіді?🤔За статистикою, користувачі отримують бажану відповідь на першій спробі лише у 70–75% випадків (і це ми говоримо про текст 📝).Для складних або професійних задач, щоб дійти до правильного результату, потрібно 2–4 уточнення чи переформулювання запиту, або ж використання тактики “iterate & revise” 🔁Уявляю, що буде, коли в гру вступлять агенти-оператори, які виконують багатокрокові завдання —де успішність, умовно, = 0.8 × 0.7 × 0.75… і що вийде в результаті? — сумно 😅Не забувати контекст у попередніх двох повідомленнях 💬, не придумувати велосипед 🚲, а краще шукати, розуміти, і давати звичні для конкретного користувача формати відповідей 🎯Звісно, я не експерт у побудові LLM — ці знання лежать у окремого кола людей (ми так... крихти збираємо, можемо юзати їх опенсорс-моделі) 🤓Але мені здається, що оптимізаційні та персоналізаційні покращення самих LLM були б економічно більш вигідними 💡Аніж те, що часто видаються незадовільні промпти, які змушують вентилятори на відеокартах крутитися ще і ще 🔁💨А ви як гадаєте? 😉#mood
453
25-10-24 11:14