Eugene K - the BA🇺🇦 | RAG — запамʼятайте цю абревіатуру. 👀LangChain — фреймворк, що дозволяє...

Telegram community logo - Eugene K - the BA🇺🇦
2025-01-06

Eugene K - the BA🇺🇦

Number of subscribers:
645
Photos:
179 
Videos:
11 
Links:
191 
Category:
Telegram
Description:
Анонімний телеграм-канал Євгена Клюкіна. Робочі моменти, ідеї, роздуми, ексклюзиви, вільне спілкування. Адмін: @eugene27K Інфо: https://eugenekba.lovable.app/

Channel Eugene K - the BA🇺🇦 - @eugenekba - №306

RAG — запамʼятайте цю абревіатуру. 👀LangChain — фреймворк, що дозволяє будувати розумні системи навколо великих мовних моделей (LLM): із логікою, памʼяттю, інструментами, ланцюгами дій.Але щойно ви пробуєте побудувати щось реальне — з клієнтською підтримкою, внутрішнім помічником чи аналітичним модулем — одразу стикаєтесь з обмеженням: LLM не знає ваших даних.🔴Вона не в курсі: - яка структура вашого API, - що написано в останньому оновленні політик, - які питання вже обговорювались у команді, - які нові документи "приїхали" від клієнта, - і будь-який інший контекст, через відсутність якого зачервоніє ШІ😳І саме тут ключову роль у таких системах відіграє RAG — Retrieval-Augmented Generation("генерація доповнена витягнутою інформацією").💡 Суть дуже проста:Модель не буде брати факти “з голови”, галюцінувати, казати "не знаю"... — дайте їй факти, і вже на основі них нехай формує відповідь.👍🧠 Retrieval (витягнення інформації) — модель спочатку запитує дані в зовнішньому джерелі (векторна база, база знань, документи, таблиці, транскрити тощо).🗣 Generation (генерація) — після цього генерує відповідь, спираючись на знайдену інформацію.🔎 Приклад:Користувач питає: “Чи підходить нам це рішення згідно з нашими вимогами?”✖️ Якщо просто віддати цей запит LLM — вона згенерує загальні рекомендації, часто відірвані від контексту: вигадані критерії, застарілі дані, абстрактні «плюси/мінуси».✔️ У RAG-сценарії модель спочатку звертається до актуальної бази вимог (наприклад, з Confluence або Jira), витягує релевантні фрагменти, порівнює їх із параметрами запропонованого рішення —і генерує аргументовану відповідь: - які вимоги покриті, - де є розбіжності (gap analysis), - що варто уточнити чи доопрацювати.Чи це круто? Я вважаю, що це буде дуже важливою компонентою у тисячах проєктів з агентизації процесів!🚀#AIforBA
271
25-06-26 14:17