Channel CyberSecureFox - @cybersecurefox - №1518
🧠 У Google помітили доволі нетипове «піратство»: зловмисники просто викачують знання з Gemini, щоб зібрати власну копію моделі — без обмежень і фільтрів. І це вже не теорія, а реальні кампанії з сотнями тисяч промптів.Мені здається, дистиляція LLM тихо перетворюється на новий клас атак: беруть потужну модель, масово розпитують, навчають «студента» й отримують свій Gemini‑клон без політик безпеки. Така модель може спокійно генерувати малвару, фішинг і підказки з обходу захисту 🔐 — і оригінальний вендор про це навіть не дізнається.Паралельно APT‑групи з Китаю, Ірану, КНДР та РФ вже юзають Gemini для розвідки, соціальної інженерії, написання коду малварі й навіть C2‑інфраструктури. Є PoC‑фреймворки на кшталт HonestCue, які напряму тягнуть другу стадію атаки через Gemini API 🧪. Я все більше думаю, що захист ІІ‑інфраструктури тепер такий самий обов’язковий, як firewall чи EDR.Як вам ідея: атакуючий ШІ, навчений на відповідях захисного ШІ? 🤔 Ви вже закладаєте такі сценарії в свої моделі загроз чи це ще «проблема майбутнього»?🔗 Докладніше:https://cybersecurefox.com/uk/zlovzhyvannya-google-gemini-apt-hrupy-distyljatsiya-llm#кібербезпека_штучнийінтелект_llm_gemini_apt_malwareCyberSecureFox
16
26-02-16 16:15