Хоча розвиток ШІ, як на мене, має чіткі вектори, потреби у якості генерації, саме тут прогрес гальмує ще з часів GPT-3.5.Напрямки:🔍 Самоверифікація — щоб ШІ сам перевіряв власний результат перед тим, як видати його нам. Бо коли GPT генерує код чи формулу, а вони з першого разу навіть по синтаксису не проходять… Це як погані програмісти, які одразу після компіляції чи мерджу кидають код тестерам без перевірки 🛠⚙️ Довести базові фічі до розумного рівня — вчора ChatGPT просто застряг у канві при генерації коду і видав: "сорі, моя канва кидає exception, встав код сам, куди треба" 😅🤖 Agent — той самий, який мав би вже спокійно заходити в умовну ERP, робити рев’ю, оновлювати, створювати, надсилати… Але щось мені підказує, що до цього ще дуже далеко. 90% офісних працівників можуть спати спокійно без снів про скорочення 💤🧠 Фундаментальні обмеження технології — баланс контекстного вікна, пошуку, чанкінгу, пріоритезації… Саме вони блокують сценарій "закинув задачу — ШІ все зробив — в кінці дня гроші приїхали". Реальність така, що ми ще довго будемо сидіти на ланцюгах рев’юверів і супервайзорів, а GPT залишатиметься без автономності (а значить і далеко від AGI).#AI #GPT
🔗До чого саме можна підʼєднати LLM-агента через MCP?🧠 MCP сервер може дати агенту доступ до:— 🗂 Файлів — наприклад, до продуктового опису, політик, презентацій чи логів— 📊 Баз даних — з інформацією про замовлення, користувачів, транзакції— 🌍 API зовнішніх сервісів — типу Google Maps, Stripe, GitHub, Salesforce, Notion— 📨 Email-систем — дозволяє агенту знаходити листи, будувати відповіді або створювати чернетки— 🧰 Інших інструментів і кодів — запускати автоматизації, робити виклики, парсити, рахувати📌 Кілька прикладів, як MCP працює у бізнес-сценаріях:1. Агент з підтримки клієнтів— отримує доступ до бази знань і історії запитів— сам знаходить інструкції та формує відповідь користувачу2. Фінансовий аналітик у чаті— запитує у агента: “які витрати на підписки за останній місяць?”— агент сам звертається до бази транзакцій і повертає агрегований результат3. Sales-агент— запитує, які клієнти не відкривали останні 3 email-розсилки— агент інтегрується з email-системою, CRM, і одразу повертає список#AIforBA
🤔 CAG чи RAG: як вибрати правильний підхід для вашого кейсу📌 Коли обрати RAG:🔹 Даних багато — тисячі або мільйони документів🔹 Вони часто оновлюються🔹 Потрібні точні посилання на джерела (цитування, аудит, відповідність)🔹 Модель має обробити лише актуальну частину знань, не засмічуючи відповідь💡 Приклади: - Помічник для C-level: аналіз відповідності рішень до бізнес-вимог із документів, які постійно оновлюються - Юридичний пошук: витягує прецеденти серед десятків тисяч справ і надає посилання📌 Коли краще CAG:🔸 Дані — стабільні та компактні (до 100K токенів)🔸 Важлива максимальна швидкість відповіді🔸 Немає потреби постійно оновлювати знання🔸 Сценарії з інтенсивними запитами — коли швидкий кеш дає реальну перевагу💡 Приклади: - Бот для нових співробітників: усі політики та гайдлайни одразу в кеші → миттєві відповіді на типові питання - Інструмент для воркшопів: модель читає весь контент (персони, user journey, цілі) і швидко генерує інсайти або підсумки без повторної обробки📦 А може — обидва (CAG+RAG)?💊 У складних сценаріях можлива гібридна модель: 1. RAG дістає релевантні фрагменти з великої бази 2. CAG кешує їх у контексті як “оперативну пам’ять” на сесіюПриклад 1. Підготовка до демо для клієнта🎯 Перед демонстрацією нової фічі агент за допомогою RAG підтягує з бази: • бізнес-вимоги, • специфікації, • історію змін.⏱ Потім CAG кешує ці дані на час демо — щоб ШІ міг швидко відповідати на питання типу:“Яка логіка у цьому ендпоінті?”, “Це було у scope чи додано пізніше?”, “На якому спринті планується реліз?”Приклад 2. Аналіз інциденту в проді🔥 Сталася помилка. BA або DevOps звертається до агента:“Що могло піти не так у цій частині системи?”🔍 RAG витягує всі лог-файли, історію змін, листування, інциденти по цій фічі.🧠 CAG зберігає все у контекст — далі можна ставити уточнюючі питання без повторного пошуку:“Чи були схожі кейси раніше?”, “Що писали вендори?”, “Це впливало на інших клієнтів?”А що спадає на думку використання CAG/RAG вам? 👀#AIforBA
RAG — запамʼятайте цю абревіатуру. 👀LangChain — фреймворк, що дозволяє будувати розумні системи навколо великих мовних моделей (LLM): із логікою, памʼяттю, інструментами, ланцюгами дій.Але щойно ви пробуєте побудувати щось реальне — з клієнтською підтримкою, внутрішнім помічником чи аналітичним модулем — одразу стикаєтесь з обмеженням: LLM не знає ваших даних.🔴Вона не в курсі: - яка структура вашого API, - що написано в останньому оновленні політик, - які питання вже обговорювались у команді, - які нові документи "приїхали" від клієнта, - і будь-який інший контекст, через відсутність якого зачервоніє ШІ😳І саме тут ключову роль у таких системах відіграє RAG — Retrieval-Augmented Generation("генерація доповнена витягнутою інформацією").💡 Суть дуже проста:Модель не буде брати факти “з голови”, галюцінувати, казати "не знаю"... — дайте їй факти, і вже на основі них нехай формує відповідь.👍🧠 Retrieval (витягнення інформації) — модель спочатку запитує дані в зовнішньому джерелі (векторна база, база знань, документи, таблиці, транскрити тощо).🗣 Generation (генерація) — після цього генерує відповідь, спираючись на знайдену інформацію.🔎 Приклад:Користувач питає: “Чи підходить нам це рішення згідно з нашими вимогами?”✖️ Якщо просто віддати цей запит LLM — вона згенерує загальні рекомендації, часто відірвані від контексту: вигадані критерії, застарілі дані, абстрактні «плюси/мінуси».✔️ У RAG-сценарії модель спочатку звертається до актуальної бази вимог (наприклад, з Confluence або Jira), витягує релевантні фрагменти, порівнює їх із параметрами запропонованого рішення —і генерує аргументовану відповідь: - які вимоги покриті, - де є розбіжності (gap analysis), - що варто уточнити чи доопрацювати.Чи це круто? Я вважаю, що це буде дуже важливою компонентою у тисячах проєктів з агентизації процесів!🚀#AIforBA
🔹 З чого складається LangChain? Основні компоненти:🔗 Ланцюги (chains) — це послідовність кроків.Наприклад: витягни текст → підготуй запит → оброби результат → згенеруй відповідь.У кожного кроку — свій prompt, своя логіка, і навіть своя модель.🛠 Tools (інструменти) — це все, з чим модель може взаємодіяти:API, база даних, калькулятор, вебпошук, git, Google Sheets.Агент вирішує, який інструмент використати для задачі.🧠 Пам’ять (memory) — щоб модель знала, що вже було:історія діалогу, лог попередніх рішень, ключові змінні.Можна зберігати все або стислий підсумок — залежно від задачі.🤖 Agents (агенти) — те, що не просто вказує моделі шлях по сценарію, а ще і дає їй можливість вирішувати, що робити на кожному кроці.Вона аналізує запит, обирає інструменти, виконує дії, перевіряє результат — і повторює цикл, поки не досягне цілі.У LangChain це все пов’язано: агент працює з інструментом, запам’ятову і виконує сценарій у ланцюзі (послідовності).📌 Отже на базі цього ви можете зробити наступне: - спроєктувати ланцюг дій для клієнтського кейсу; - описати, які інструменти має використовувати агент; - визначити, що потрібно памʼятати між сесіями; - перевірити логіку та вплив на UX або бізнес-метрики.LangChain — не про "LLM із кнопкою", а про живу логіку 🧩#AIforBA
🔹 Як працює AI Agent зсередини?Уявіть, що агент — це не просто модель, яка щось генерує. Це модель, яка мислить, діє і пам’ятає. І все це робить у потрібний момент.🧠 Один з найпопулярніших підходів роботи агентів — ReAct. У нього є три основні здібності: - Reasoning (міркування) — агент планує, як вирішити задачу, розбиває її на кроки, робить висновки. Це вже не "згенеруй щось", а продумане вирішення. - Acting (дія) — може взаємодіяти з зовнішніми інструментами: API, базами даних, калькулятором чи пошуком. - Memory (пам’ять) — пам’ятає, що вже робив, що ви йому писали, і навіть зберігає внутрішні "роздуми", щоб використати їх пізніше.І коли ці здібності поєднуються, з’являється справжній “живий” підхід. Один із найпопулярніших — ReAct: агент спочатку думає, потім діє, потім перевіряє результат і, якщо щось пішло не так — змінює план і пробує ще раз. 🔄🎯 До речі, я якось вже пробував систему, що дуже нагадує роботу агента.У тому пості я описував, як налаштовував систему, що інтегрується з Telegram, OpenAI та Binance.Я підключився до API, налаштував аутентифікацію, і система самостійно читала повідомлення з каналів, а на основі їхнього змісту — формувала запити на здійснення торгових операцій (тобто аналізувала вхідний запит — Reasoning, обирала дію — Acting, і запам’ятовувала попередні кроки — Memory).⚡️Тобто ШІ сам вирішував, що саме потрібно купити або продати, в якому напрямку діяти, на яку біржу відправити запит. Це вже не просто автоматизація — це справжня агентська поведінка, де модель не просто реагує, а приймає послідовність рішень. 🧩І джерел могло б бути більше: можна було б підключити аналіз графіків, технічні індикатори, новинні API, сигнали з інших платформ — усе це агент зміг би комбінувати самостійно. 🤖Отже агенти — вже не просто ШІ. Вони є розумними помічниками, здатними до самостійної роботи.⚙️#AIforBA
Навчання з підкріпленням — це коли модель сама шукає оптимальний шлях до відповіді. Вона не просто повторює зразки, а перебирає тисячі рішень, експериментує, пробує різні “ланцюжки думок” і залишає ті, які приводять до правильного результату. Найдовершенішими моделями наразі є OpenAI o3 та Claude Opus 4.Під капотом така модель “вчиться мислити в голос”: пробує різні варіанти, повертається до попередніх кроків, перепровіряє розв’язок, піддає сумніву власні проміжні висновки. Це схоже на те, як ми вирішуємо складні задачі: розкладаємо на частини, шукаємо різні шляхи, перевіряємо себе. Навіть якщо перший варіант неправильний — модель повертається і тестує інші. Звідси з’являються довші, більш обґрунтовані відповіді: модель пояснює логіку, відмічає помилки, наводить альтернативи, будує цілий ланцюжок роздумів. ⛓️Це відпрацьовує краще, тому що навчання з підкріпленням дозволяє ШІ знаходити власні “когнітивні стратегії” — розбивати складні задачі на прості кроки, експериментувати з підходами, а не просто наслідувати експерта.🛠 Для користувача це означає: - Якісніші рішення у складних кейсах (математика, кодинг, аналітика). - Модель краще пояснює свої дії, шукає альтернативи, а не “зависає” на одному сценарії.Навчання з підкріпленням — це “школа для ШІ”, де він вчиться мислити як людина: ставити питання, шукати альтернативи, перевіряти результати й робити власні висновки. Тому сучасні LLM реально здатні “думати вголос” і допомагати вам навіть у нестандартних задачах! 🚀#AIforBA
🔥 Навчання з підкріпленням (Reinforcement Learning): як LLM реально вчиться “думати”Більшість уявляє навчання ШІ так: показали ідеальний приклад — модель повторює, і все чудово. Але справжня “магія” починається саме на етапі навчання з підкріпленням.🤹♂️ Коротко про різницю: - Кероване донавчання (Supervised Fine-Tuning, SFT) — це коли людині дають задачу та ідеальну відповідь. Модель просто імітує експерта, повторює зразок. - Навчання з підкріпленням (Reinforcement Learning, RL) — це як у реальному житті: ти отримуєш тільки умову і фінальну відповідь, а шлях до неї шукаєш самостійно! 😁Як це працює для LLM?Модель пробує десятки чи навіть тисячі шляхів до відповіді, генерує варіанти рішень — і лише ті, що реально приводять до правильного результату, залишаються для подальшого навчання. Це класичний “проба — перевірка”: ітерації, помилки, експерименти, пошук найефективніших стратегій мислення.💡 Саме завдяки навчання з підкріпленням модель починає не просто копіювати експерта, а знаходити власні шляхи до рішень, комбінувати різні підходи, перевіряти себе. Це підвищує якість відповідей у складних задачах — у математиці, програмуванні, аналізі.Чому це важливо?З RL відповідь моделі вже не схожа на “зазубрений шаблон” — вона починає мислити, як людина: пробує, піддає сумніву, шукає альтернативи. Саме так ШІ стає реально корисним асистентом, а не просто складним “автозаповнювачем” тексту.#AIforBA
Якщо задачка стає складнішою або ви просите модель “порахуй/зроби/оброби одразу”, вона буде збоїти, давати неправильні результати, пропускати щось.💩 У таких випадках краще попросити її написати код (наприклад, на Python) і виконати розрахунок через інтерпретатор — тоді відповідь буде точною, бо обчислення зробить вже не нейронка, а спеціалізована програма 🖥.Те саме стосується підрахунку символів чи аналізу тексту: LLM не “бачать” літери, вони працюють із токенами (тобто частинками слів), тому можуть робити прості помилки там, де людина впорається легко 🧐. Наприклад, якщо запитати: “скільки літер ‘r’ у слові strawberry?” — ще донедавна більшість моделей давали неправильну відповідь. Тільки нещодавно їх навчили не плутати такі задачі (додаванням спеціальних прикладів у навчальні дані або навчанням їх використовувати інструменти для підрахунку — наприклад, писати код для точного ліку символів)🛠.👆 Тому використовуйте інструменти (code interpreter, web search, спеціальні плагіни) і обов’язково вивчайте, у яких випадках вони найкраще підходять. Наприклад: - Code interpreter — коли треба виконати точні розрахунки, перевірити формули, підрахувати кількість символів чи обробити таблиці. - Web search — для отримання актуальної інформації, пошуку фактів або уточнення даних, яких може не бути у моделі. - Плагіни — якщо є потреба інтегрувати модель із зовнішніми сервісами (наприклад, для автоматизації певних дій чи обробки нестандартних форматів даних).Так ви завжди отримаєте більш точний і надійний результат та зможете довіряти відповіді моделі. 🚀#AIforBA
Якось я сходу поламав GPT-бота на сайті IIBA 🤭. Просто почав задавати йому питання про нього самого — результат на екрані.💀Тепер (після відео) розумію, чому так сталося. LLM, як ChatGPT, не має власного “Я” чи пам’яті про минулі розмови. Це не особистість, а статистична машина, яка щоразу запускається “з нуля”: отримує твій запит, аналізує контекстну історію та генерує відповідь. На цьому все, ніякої глибокої самоідентичності.Якщо в тренувальних даних чи системному повідомленні не було спеціально прописано, як відповідати на такі питання, модель просто вигадує відповідь за патернами з інтернету (а там “ChatGPT від OpenAI” — найбільш популярний шаблон). Тому різні LLM можуть представлятись ChatGPT, навіть якщо вони ним не є.💡 Розробники можуть задати “самоідентичність” моделі двома шляхами: - Додати у тренувальний датасет діалоги, де асистент розповідає про себе. - Використати “системне повідомлення”, яке непомітно додається в контекст перед розмовою і містить службову інформацію: назву моделі, дату, знання тощо.Але це лише “ярлик” — модель не отримує від цього жодного усвідомлення себе. Тому, якщо наступного разу ваш бот зламається від простого питання “хто ти?”, знайте — він просто імітує відповідь за ймовірністю, а не розуміє, ким він є насправді 😄#AIforBA
TGLIST.COM.UA
