ВАСИЛЕВСЬКА-СМАГЛЮК🇺🇦 | Національні агентства кібербезпеки США, Великої Британії, Канади, Авст...

Національні агентства кібербезпеки США, Великої Британії, Канади, Австралії та Нової Зеландії опублікували звіт, в якому попереджають уряди та банківську систему про небезпеку агентних ШI-моделей, які вже стали аж занадто самостійними. Світові кіберрегулятори вважають, що такі агенти є новою загрозою для банків та фінансової системи. Йдеться не про генеративний ШІ (типу ChatGPT), який просто відповідає на питання. А про агентні ШI-системи, які можуть самі:- ухвалювати рішення;- запускати операції;- взаємодіяти з іншими системами;- виконувати цілі ланцюжки дій без постійного контролю людини.Головна проблема - ШI може отримати легальний доступ до систем і при цьому помилятись, галюцинувати та взламувати системи безпеки через обхідні шляхи – технічно коректні, але шкідливі для банку. Або ще веселіше – їх можуть «приручити» шахраї. У документі навіть описують сценарій «confused deputy» - коли зловмисник не ламає систему напряму, а обманює самого ШI-агента, який уже має всі потрібні доступи.Регулятори радять контролювати доступ агентних моделей ШІ так само серйозно, як кіберризики чи фінансове шахрайство. Завелика автономія такого помічника може призвести аж до каскадної аварії у глобальній фінансовій системі.