Джерело
Programming Mentor | П'яте – довгі запуски стають нормою. Anthropic пише, що окремий запит ...
2 010 Охват/переглядів
2026-07-28 18:50
Повідомлення №638
П'яте – довгі запуски стають нормою. Anthropic пише, що окремий запит на складній задачі може виконуватися багато хвилин, а автономний запуск – годинами. З цього випливає цілком інженерна робота: таймаути, стрімінг, індикатори прогресу, асинхронна перевірка запусків замість блокуючого очікування, паралельні субагенти й окремі верифікатори зі свіжим контекстом. Плюс зовнішня пам'ять: банальний markdown-файл, куди агент записує висновки з попередніх запусків, дає хороший ефект.
Якщо коротко:
- На бенчмарки дивитеся лише для загального орієнтиру.
- Ганяєте моделі на своїх задачах, за можливості переключаєтеся між ними, виконуєте в паралель щоб побачити що краще працює.
- Для кращого результату - заглянте в гайди промптингу конкретної моделі, підправити промпт/контекст часто спрацьовує краще, ніж змінити модель.
- Думка, що «модель тупіша за попередню» – часто причина в промпті, який був заточений на попередню модель. Перепишіть промпти, спростіть їх і подивіться, чи це допомогло.
- Експериментуйте з режимами міркувань - “слабша” модель з вищим режимом може виявитися дешевшою і кращою, ніж “сильніша”, але з нижчим.
Ну і пам’ятаємо, що промпти/скіли/правила - це все живий артефакт проєкту, який не пишеться один раз, його треба супроводжувати точно як код, а вже скоро - і замість коду :)
Якщо коротко:
- На бенчмарки дивитеся лише для загального орієнтиру.
- Ганяєте моделі на своїх задачах, за можливості переключаєтеся між ними, виконуєте в паралель щоб побачити що краще працює.
- Для кращого результату - заглянте в гайди промптингу конкретної моделі, підправити промпт/контекст часто спрацьовує краще, ніж змінити модель.
- Думка, що «модель тупіша за попередню» – часто причина в промпті, який був заточений на попередню модель. Перепишіть промпти, спростіть їх і подивіться, чи це допомогло.
- Експериментуйте з режимами міркувань - “слабша” модель з вищим режимом може виявитися дешевшою і кращою, ніж “сильніша”, але з нижчим.
Ну і пам’ятаємо, що промпти/скіли/правила - це все живий артефакт проєкту, який не пишеться один раз, його треба супроводжувати точно як код, а вже скоро - і замість коду :)