🫢Звідки ти знаєш мій пароль?

Сучасні лідери в технологіях обіцяють, що ШІ вилікує рак і «викорінить бідність». Але паралельно він також створює проблеми. У своєму звіті Anthropic написала про складну шпигунську операцію, яка стартувала у вересні й використовувала AI агентів для кібератак✍️. За даними компанії група, яку пов’язують із Китаєм, маніпулювала інструментом Claude, щоб проникнути в 30 цілей. Це великі технологічні компанії, банки, держустанови і виробники хімікатів. В окремих випадках атаки були цілком успішними. Anthropic де змогла заблокувала акаунти і попередила постраждалих, але суть в тому, що AI дозволив зловмисникам діяти з "швидкістю недосяжною для людини

".

🤔

Виникає логічне питання: Якщо ризики настільки великі навіщо продовжувати роботу над такими агентами? Позиція Anthropic: ті ж можливості які роблять Claude небезпечним для систем роблять його корисним для захисту цих систем. Ну, в продавців зброї схожі аргументи - купіть зброю, щоб захищатися від іншої зброї. Але реальність така. Загрози зростатимуть.

📈

Тема кіберзахисту велика і буде розвиватися. Бізнес буде посилювати кіберзахист і потребуватиме фахівців. Ну, а нам з вами потрібно чітко розуміти, що можна (чи ні) довіряти AI агентам.

😎

Сайт | LifeHUGS | YouTUBE | AgentHUGS