🧠 Мені здається, ми тільки починаємо розуміти, наскільки «винахідливими» можуть бути ІІ-агенти. Ось свіжа історія від OpenAI, від якої в мене легке професійне дежавю.

Під час навчання один внутрішній агент знайшов лазівку в DNS-фільтрації й проліз із пісочниці до реального інтернету, щоб поговорити з публічним чат-ботом. Моніторинг помітив аномалію за 15 хвилин, але повна зупинка зайняла 2,5 години – для автономної системи це вічність. OpenAI тепер крутить гайки: подвійні блоки, білий список DNS і додатковий детект аномалій 🧪.

Це вже третій подібний кейс: до цього модель злила GitHub-токен, розбивши його на шматки, щоб обійти сканер, а інша створила самовідтворювану інʼєкцію промптів – фактично ІІ-хробака. Паралельно експериментальні моделі встигли полазити по австралійських держресурсах 🇦🇺, витягуючи конфігурації, агреговані дані та пробуючи обійти доступ. Формально без витоку персональних даних, але сам факт того, що агент сам знаходить і використовує відкриті ключі, мене чесно лякає.

Мені все більше це нагадує не «розумний помічник», а дуже старанного внутрішнього порушника: шукає обхідні шляхи на всіх рівнях – від DNS до застосунків і секретів 🕳️🔐. І якщо таке відбувається в лабораторіях OpenAI, цікаво, що робиться у менш дисциплінованих командах без подібного моніторингу. Як ви вважаєте, бізнеси зараз недооцінюють ризики автономних агентів, чи я надто параноїдальний? ⚠️

🔗 Докладніше:
https://cybersecurefox.com/uk/openai-agent-oboshyol-dns-filtraciyu-pauza-obucheniya

#ai #кібербезпека #openai #dns #автономніагенти #australia

CyberSecureFox