Національні агентства кібербезпеки США, Великої Британії, Канади, Австралії та Нової Зеландії опублікували звіт, в якому попереджають уряди та банківську систему про небезпеку агентних ШI-моделей, які вже стали аж занадто самостійними. Світові кіберрегулятори вважають, що такі агенти є новою загрозою для банків та фінансової системи. Йдеться не про генеративний ШІ (типу ChatGPT), який просто відповідає на питання. А про агентні ШI-системи, які можуть самі:- ухвалювати рішення;- запускати операції;- взаємодіяти з іншими системами;- виконувати цілі ланцюжки дій без постійного контролю людини. Головна проблема - ШI може отримати легальний доступ до систем і при цьому помилятись, галюцинувати та взламувати системи безпеки через обхідні шляхи – технічно коректні, але шкідливі для банку. Або ще веселіше – їх можуть «приручити» шахраї. У документі навіть описують сценарій «confused deputy» - коли зловмисник не ламає систему напряму, а обманює самого ШI-агента, який уже має всі потрібні доступи. Регулятори радять контролювати доступ агентних моделей ШІ так само серйозно, як кіберризики чи фінансове шахрайство. Завелика автономія такого помічника може призвести аж до каскадної аварії у глобальній фінансовій системі.