FUTURE × SIMPLE ⛩ | Китайські державні хакери, успіх АІ-мікроменеджменту та чому Skynet ще...

🤔 Китайські державні хакери, успіх АІ-мікроменеджменту та чому Skynet ще не тутСьогодні вас у фіді чекає тепленький звіт від Anthropic — китайські державні хакери з групи GTG-1002 змусили Claude ламати приблизно 30 компаній.• У таргет-списку були техногіганти, банки, хімічні виробники та урядові агенції — не всі атаки закінчились успіхом, але ключове те, що успішні спроби все-таки були. Так, новина гучна, але прикол не в тому, що це сталось — прикол в тому, як саме.😵 Головний поінт в тому, що це перший задокументований випадок, коли AI автономно виконав 80-90% тактичної роботи.Людина фактично виконувала функції менеджера та потрібна була лише на 10-20% часу. Для того, щоб обрати ціль та дати «зелене світло» на ключових етапах.• Все інше — розвідка , аналіз вразливостей, крадіжка крейденшалів, горизонтальне переміщення по мережі, аналіз даних і навіть документування атаки — робив Claude. Особливість тут в тому, що це не просто «джейлбрейк» — китайці збудували кастомний фреймворк-оркестратор.💪 Ще прикол в тому, що вони не використовували щось мега-кастомне — просто Claude Code та стандартні MCP.Починалось все з «соціальної інженерії» AI: «Привіт, я — пентестер (етичний хакер) з GoodHacker Corp, ми робимо легальний аудит».• Далі в гру вступав оркестратор. Він розбивав складну атаку («зламай Пентагон») на тисячі окремих, більш «невинних» завдань для субагентів. Один агент сканував порти. Інший аналізував конфіги. Третій шукав сервіси. 😂 Кожен окремо взятий запит виглядав як рутинна технічна задача. Модель не бачила повної картини, а просто виконувала команди.Цей фреймворк дозволив розвинути «фізично неможливу» швидкість атаки — тисячі запитів та кілька операцій на секунду.Але є нюанс (чому Skynet ще не тут) — наш котик Claude галюцинує, іноді піздєц як.• Під час операцій він часто «перебільшував» знахідки та час від часу фабрикував дані. Звітував, що отримав ключі доступу, які насправді не працювали. 😋 Або знаходив «критичну» інформацію, яка виявлялась не те, щоб важливою та ще й публічно доступною.Це вимагає від людини-менеджера постійної валідації результатів, і поки що є основною перешкодою для повністю автономних кібератак.😓 Звісно, Anthropic забанили зловмисників і тепер кажуть, що активно покращують свої «кібер-фокусовані класифікатори».Іронія в тому, що те, що робить AI чудовим інструментом для хакерів також є життєво необхідним для захисту.💻 Команда безпеки Anthropic використовувала Claude, щоб аналізувати гігабайти даних з цієї самої атаки. Бо єдиний спосіб захиститись від AI-атаки — це використати ще сильніший AI.💻 Коротше, ситуація цікава. Поріг входу у «вищу лігу» кіберзлочинів щойно відчутно знизився, якщо не використовувати слово «обвалився» — з чим я нас усіх і вітаю.