Джерело
DD shit and other | Так, запарився я вибудовувати екосистему LLMів для виконання великих з...
7 510 Охват/переглядів
2025-12-14 21:32
Повідомлення №8188
Так, запарився я вибудовувати екосистему LLMів для виконання великих завданнь. Але зараз вона виглядає таким чином, після 5.21. Пишемо опис проекта з логікою на 5.2 (останній зайняв десь 30 сторінок)2. Всі промпти та код на пайтоні в Клоді. 3. Все, що треба збирати з інтернету пошуковими запитами + те, що можна зі сніпетів та будь-які АПІ Гугла (наприклад гугл мапс) - беремо за допомогю Джемені АПІ4. Зібрані данні обробляємо (екстракшн, аналіз, структурування) - на 5.2Клод, навить не тестував на виконанні промптів - бо він виходить на моїх тасках значно дорожче, а на десятках тисяах ітерацій це відчутно: десятки доларів на АПІ перетворюються тисячи, проти гугла та 5.2. Результат значно краще, але це не варто таких грошей. За 10% від цього можна запустити пару ітерацій з перевіркою та дабл чекамиНаступного тижня та на канукулах буду випробувати складні проекти (десяткі тисяч раз запуск складного промпта) - там буде багато ітерацій кожна буде промптів запускати десь 30-35 сторінок. Це все цікаво, але має деякі наслідки:- розуміння, що робота аналітиків широкого профілю обмежена гризонтом 24 місяці. І це я оптимістичен, бо схоже що 12 чи меньше. Вже зараз я роблю за день місячну роботу відділа аналітиків з 2-3 людей- розуміння, що робота аналітика з розумінням сегмента/індустрії обмежена горізонтом 48 місяців, але не виключено що 24 чи меньше- чим вужче та спеціфічніша індустрія, та чим чаще її плутають з більшою, тим довже ШІ буде в неї робити критичні помилкі. Але теж все закінчиться. - вміння працювати з ЛЛМ - окремий скіл, який треба розвивати, але він скоро теж здохне.