jev

Якщо ви слідкуєте за новинами, то вже бачили багато інфи про jev.
Це нова моделька, але не LLM - текст чи якийсь контент не генерує. 

Робить буквально три речі: відповідає на питання так / ні, робить вибір зі списку, а також проставляє оцінку за шкалою. Також кожна відповідь має ймовірнісну оцінку, за якою можна зрозуміти наскільки модель у ній впевнена.

Це не є щось принципово нове, модель відноситься до категорії моделей-класифікаторів, які були ще до LLM. Також всі ці задачі можна робити за допомогою LLM, але це відносно повільно і дорого.

Новизна в тому, що автори відполірували своє рішення, знайшли вдалі кейси застосування і викотили як готовий продукт у вигляді API.

Швидкість та ціна завжди вирішують, а з jev прискорення та здешевлення може бути в сотні/тисячі разів, і саме це відкриває зовсім нові області застосування, про які ми раніше навіть не задумувалися. 

На сайті розробників є розділ з прикладами та кейсами, раджу заглянути ознайомитися  https://docs.typesafe.ai/concepts/use-case-map 

Мій особистий топчик - це керування браузером, ось з цим погрався - краса https://github.com/browser-use/jev-ultrafast/ 

Звісно, що вже підтягнулися відкриті альтернативи, і враховуючи що подібні моделі невеликі за розміром, то запускати їх локально можна без проблем. Ось тут вже й бенчмарки під'їхали, є моделі на рівні jev https://benchmarkheaven.com/jev-models

А розробникам, що створюють рішення з LLM тепер треба враховувати подібні моделі при оптимізації рішень, точно також як оптимізований наш мозок - у нас теж для різних задач різні ділянки активуються.