Джерело
llms_ua | OPEN QUESTION: Як зробити важливі знання організації доступними для LL...
579 Охват/переглядів
2025-12-16 12:57
Повідомлення №67
OPEN QUESTION: Як зробити важливі знання організації доступними для LLM — і не зламати їх по дорозі?
Інтуїтивно можна піти шляхом progressive summarization:коментарі → саммарі → ще одне саммарі → контекст для LLM. Але тут є системна проблема:LLM-саммаризація — це каскад втрат.
Кожен рівень додає:* дрейф акцентів* інʼєкцію «правдоподібних» вигадок* сплющення нюансів у впевнені твердження* неможливість реконструювати оригінальне значенняЦе як гра у спорчений телефон, тільки автоматизована і масштабована. Здається, тут є помилка в припущенні: ніби весь минулий контекст однаково цінний. Насправді — ні. У інформації є період напіврозпаду:* статус-апдейти — тиждень* процесні дискусії — місяць* технічні рішення — квартал* decision records — пів року+👉 Можливо, саммаризувати треба не для фінального контексту, а лише для пошуку й маршрутизації, а оригінали підтягувати за потреби.
👉 Або взагалі піти третім шляхом:не стискати текст, а витягувати структуровані звʼязки (граф знань). Втрати в оригінальному тексті — ок. Втрати у звʼязках — критичні. Відкрите питання:А що, якщо організаційні знання витягувати так само, як інструменти типу OpenMemory витягують персональні coding-преференції? #AI #Vibecoding 🐋 @llms_ua
Інтуїтивно можна піти шляхом progressive summarization:коментарі → саммарі → ще одне саммарі → контекст для LLM. Але тут є системна проблема:LLM-саммаризація — це каскад втрат.
Кожен рівень додає:* дрейф акцентів* інʼєкцію «правдоподібних» вигадок* сплющення нюансів у впевнені твердження* неможливість реконструювати оригінальне значенняЦе як гра у спорчений телефон, тільки автоматизована і масштабована. Здається, тут є помилка в припущенні: ніби весь минулий контекст однаково цінний. Насправді — ні. У інформації є період напіврозпаду:* статус-апдейти — тиждень* процесні дискусії — місяць* технічні рішення — квартал* decision records — пів року+👉 Можливо, саммаризувати треба не для фінального контексту, а лише для пошуку й маршрутизації, а оригінали підтягувати за потреби.
👉 Або взагалі піти третім шляхом:не стискати текст, а витягувати структуровані звʼязки (граф знань). Втрати в оригінальному тексті — ок. Втрати у звʼязках — критичні. Відкрите питання:А що, якщо організаційні знання витягувати так само, як інструменти типу OpenMemory витягують персональні coding-преференції? #AI #Vibecoding 🐋 @llms_ua