Eugene K - the BA🇺🇦 | CAG чи RAG: як вибрати правильний підхід для вашого кейсу📌 Коли обрати...

Telegram community logo - Eugene K - the BA🇺🇦
2025-01-06

Eugene K - the BA🇺🇦

Number of subscribers:
645
Photos:
179 
Videos:
11 
Links:
191 
Category:
Telegram
Description:
Анонімний телеграм-канал Євгена Клюкіна. Робочі моменти, ідеї, роздуми, ексклюзиви, вільне спілкування. Адмін: @eugene27K Інфо: https://eugenekba.lovable.app/

Channel Eugene K - the BA🇺🇦 - @eugenekba - №312

🤔 CAG чи RAG: як вибрати правильний підхід для вашого кейсу📌 Коли обрати RAG:🔹 Даних багато — тисячі або мільйони документів🔹 Вони часто оновлюються🔹 Потрібні точні посилання на джерела (цитування, аудит, відповідність)🔹 Модель має обробити лише актуальну частину знань, не засмічуючи відповідь💡 Приклади: - Помічник для C-level: аналіз відповідності рішень до бізнес-вимог із документів, які постійно оновлюються - Юридичний пошук: витягує прецеденти серед десятків тисяч справ і надає посилання📌 Коли краще CAG:🔸 Дані — стабільні та компактні (до 100K токенів)🔸 Важлива максимальна швидкість відповіді🔸 Немає потреби постійно оновлювати знання🔸 Сценарії з інтенсивними запитами — коли швидкий кеш дає реальну перевагу💡 Приклади: - Бот для нових співробітників: усі політики та гайдлайни одразу в кеші → миттєві відповіді на типові питання - Інструмент для воркшопів: модель читає весь контент (персони, user journey, цілі) і швидко генерує інсайти або підсумки без повторної обробки📦 А може — обидва (CAG+RAG)?💊 У складних сценаріях можлива гібридна модель: 1. RAG дістає релевантні фрагменти з великої бази 2. CAG кешує їх у контексті як “оперативну пам’ять” на сесіюПриклад 1. Підготовка до демо для клієнта🎯 Перед демонстрацією нової фічі агент за допомогою RAG підтягує з бази: • бізнес-вимоги, • специфікації, • історію змін. Потім CAG кешує ці дані на час демо — щоб ШІ міг швидко відповідати на питання типу:“Яка логіка у цьому ендпоінті?”, “Це було у scope чи додано пізніше?”, “На якому спринті планується реліз?”Приклад 2. Аналіз інциденту в проді🔥 Сталася помилка. BA або DevOps звертається до агента:“Що могло піти не так у цій частині системи?”🔍 RAG витягує всі лог-файли, історію змін, листування, інциденти по цій фічі.🧠 CAG зберігає все у контекст — далі можна ставити уточнюючі питання без повторного пошуку:“Чи були схожі кейси раніше?”, “Що писали вендори?”, “Це впливало на інших клієнтів?”А що спадає на думку використання CAG/RAG вам? 👀#AIforBA
253
25-07-02 13:16