Продовжуючи сьогоднішню кулінарну тему, порівняю agent loop з лінійним кухарем (всі ж Майстершеф: Професіонали дивляться?

👩‍🍳).

Просто юзати скіл – це мати на кухні спеціаліста, що готує лише одну страву з чітко визначеним набором інгредієнтів. Такий собі моноспеціаліст в закладі, де подають лише бургер з двома яловичими котлетами і все на тому. А от агент в лупі – це лінійний кухар в ресторані. Так, там є фіксоване меню, тобто агент може зробити лише якусь визначену кількість страв. Але один кухар займається пачкою процесів і може спеціалізуватись, скажімо, на гарячих процесах чи на десертах.

Такий кухар отримує замовлення (інпут), перевіряє, що доступно на кухні з продуктів і чи нема чого на стопі раптом (перевірка контексту та поточного стану), а далі готує замовлення (викликає тули) по технологічній карті (інструкції, скіли, референс інфо) зважаючи на проміжний результат (observation) аж допоки страва не буде відповідати стандартам якості (аутпут).

Що робить агента класним?
1. Повідомляє про статус (чи є запара на кухні чи треба почекати страву та коли вона буде готова).
2. Має доступ до тулів з відповідними правами доступу (сковорідки не зачинені в шафі на ключ).
3. Може робити задачі паралельно (нарізає наступний інгредієнт поки смажить попередній).
4. Має ліміт часу або кроків на виконання задачі (не намагається зробити все ідеально, а видає достатньо хороше).

Основні помилки при створенні agent loop:
1. Завтичили надати пермішени і все треба апрувити – це вже не агент, а головний біль.
2. Немає ліміту на кроки чи виклик тулів чи виходу з лупу на випадок повторюваних помилок – агент може зависнути в нескінченному процесі без результату.
3. Неправильний вибір ефорту або моделі – засильна модель на елементарні дії веде до значних і безґлуздих витрат токенів.

Просунуті користувачі також працюють з хуками, субагентами та управляють сесіями й памʼятью, але це вже якось іншим разом х)