CyberSecureFox | Мені здається, ми потроху переходимо від «зробили ІІ — потім перевірим...

🚧 Мені здається, ми потроху переходимо від «зробили ІІ — потім перевіримо» до режиму, коли агентів ганяють по безпеці ще до запуску в прод.Microsoft викотила два опенсорс-інструменти — RAMPART і Clarity. Перший — це ніби «юнт-тести» для ІІ-агентів 🧪: можна ганяти їх через міжпромптові інʼєкції, витоки даних і дивні регресії поведінки, вбудувавши все це у CI/CD. Він сидить поверх Pytest, тож якщо ви вже живете в Python-екосистемі — поріг входу низький, а тести перетворюються на живі сценарії атаки, які можна повторювати.Clarity мені нагадує впертого продуктового аналітика на стероїдах 🧠: ІІ-партнер, який «сперечається» з вами на етапі дизайну. Він змушує чітко зафіксувати, чому ви даєте агенту такий доступ до інструментів і даних, ще до того, як написано код ⚙️ — коли змінювати курс не так боляче.Мені подобається зсув від разових аудитів до безперервного процесу з відтворюваними інцидентами й перевірюваними фіксами. 🤔 Як вам така ідея: treat-и для ІІ-агентів як обовʼязкова частина пайплайна, а не опція «якось потім»?🔗 Докладніше:https://cybersecurefox.com/uk/microsoft-rampart-clarity-bezpeka-ii-agentiv#ai #безпека #розробка #microsoft #агенти #devopsCyberSecureFox