Channel CyberSecureFox - @cybersecurefox - №1351
🛡️ Оце цікаво: Google вшиває в Chrome для Gemini-агентів цілу «систему безпеки з охороною та відеоспостереженням». І це не про параною, а про дуже реальні атаки через контент сайтів.Що роблять? По-перше, з’являється окремий ізольований Gemini-критик 🤖, який не бачить сам веб, а перевіряє, чи не з’їхав агент з початкового завдання і чи не намагається раптово вкрасти паролі чи змінити платіжні реквізити. По-друге, вводять Origin Sets – агент не може просто так лазити по будь-яких доменах, усе жорстко обмежено й сегментовано.Плюс Chrome ставить на паузу ⚠️ всі «чутливі» дії (банкінг, платежі, паролі) і чекає нашого ручного підтвердження. У фоновому режимі працює детектор prompt injection + автоматизований red teaming, а дослідникам безпеки дають до 20 000 $ за обходи цих захистів 💰. Мені здається, це початок нового стандарту безпеки для ІІ у браузері. Як вам ідея «ІІ під наглядом ІІ»? 🙂🔗 Докладніше:https://cybersecurefox.com/uk/chrome-bezpeka-ii-agentiv-gemini-prompt-injection#штучнийінтелект_кібербезпека_chrome_gemini_браузер_безпекаллмCyberSecureFox
13
25-12-17 16:28