Jev настільки швидкий, шо звичайний код тепер треба сповільнювати
Для: розробників, які вбудовують AI в продукт

TL;DR: John Lindquist (egghead.io) понад годину показував Jev від TypeSafe, частину наживо, частину в записаних роликах. І сам же пояснив, де його не треба юзати.

Jev вже був у каналі: модель, яка не пише текст, а обирає варіант з меню і дає ймовірність. Тут про те, як воно виглядає в реальному коді.

Шо показали
- Голосовий to-do: відповідь ~100 мс, за його словами. Lindquist: "the AI inference is so fast that you have to debounce your regular code now"
- Роутинг листів у 4 команди: 48 листів за 158 мс. На чотирьох запитах (2, 4, 12 і 48 листів) з його ручною розміткою збіглось 65 з 66
- Проти Haiku 4.5 на 7 листах (Haiku отримував по запиту на лист): за його замірами Jev в 15 разів швидший і в ~30 разів дешевший, мітки однакові
- Chrome-розширення Reflex на задачі в Google Flights: 15 рішень за ~11 с і менше півцента. Haiku складає початковий план і підстраховує, Jev на кожному кроці обирає дію й елемент

Де ламається
- "select pay rent": дії select в меню не було, Jev обрав найближчу, complete. Задачу відмічено виконаною
- Порядок опцій в меню змінює відповідь на близьких випадках
- Максимум 255 варіантів на одне питання
- Надійно не рахує і не порівнює дати, читає їх як текст. Арифметику й дати віддають звичайному коду

Протоптані стежки
Lindquist радить так: спершу ставиш Jev у кожне рішення і логуєш вибір. Потім те, шо повторюється, замінюєш кодом. З 363 саппорт-повідомлень 16 згадували refund, і всі 16 пішли в billing. Це вже не AI, а один regex.

Його ж фраза: "There's no reason to use Jev if not necessary."

Про контекст: це вебінар платної програми MEGA.dev, де Lindquist веде тиждень. Про TypeSafe каже, шо інтересу в ній не має, компанія дала йому $5 демо-кредитів.

Я подивився: дуже цікавий відос. Рекомендую глянути всім 👇
https://www.youtube.com/watch?v=3MwcIgBRras