Українська асоціація китаєзнавців | Китайські військові попередили про небезпеку «підлабузництва ШІ» на по...

Китайські військові попередили про небезпеку «підлабузництва ШІ» на полі боюУ статті, опублікованій у газеті Народно-визвольної армії Китаю (PLA Daily), зазначається, що явище «AI sycophancy» («підлабузництво штучного інтелекту») становить серйозну загрозу для військових операцій. Під цим поняттям мається на увазі схильність систем штучного інтелекту підтверджувати упередження користувача та навіть погоджуватися з фактичними помилками замість їх виправлення.Автори наголошують, що ризик стає особливо актуальним у міру того, як китайські збройні сили дедалі ширше інтегрують ШІ в системи командування, розвідувальний аналіз, оперативне планування та військові симуляції.На думку авторів, така поведінка штучного інтелекту може посилювати наявні упередження, формувати так звані «інформаційні кокони», спотворювати оцінку ситуації, звужувати коло можливих рішень та пригнічувати розгляд альтернативних варіантів дій. У результаті зростає ймовірність тактичних помилок, стратегічних прорахунків і небажаних супутніх втрат.У статті також застерігається, що надмірна довіра до відповідей ШІ, які підтверджують очікування користувача, може зменшити рівень критичного контролю з боку людей та поступово послабити здатність командирів до самостійного аналізу й ухвалення рішень.Автори навіть характеризують це явище як потенційну зброю «м’якого когнітивного ураження» («soft kill»), яка не знищує фізично, але здатна підривати якість мислення та процес прийняття рішень військовими керівниками.