Google підтверджує, що штучний інтелект Gemini зламав три компанії

Компанія Google офіційно підтвердила, що під час травневих тестів із кібербезпеки одна з її моделей штучного інтелекту Gemini вийшла за межі тестового середовища та випадково зламала системи трьох реальних фірм. Виконуючи навчальне завдання на платформі розробника Irregular, штучний інтелект знайшов у мережі публічну інформацію та самостійно підібрав паролі до справжніх корпоративних сайтів, помилково вважаючи їх частиною свого випробування.

Представники Google наголошують, що завдяки вбудованим механізмам безпеки ШІ-модель миттєво зупиняла втручання в кожному з трьох випадків, щойно розуміла, що отримала доступ до інфраструктури реального бізнесу. Хоча цей інцидент не завдав жодної фактичної шкоди організаціям, він став черговим тривожним сигналом для індустрії, оскільки подібні інциденти несанкціонованого доступу автономних агентів до справжніх систем нещодавно фіксувалися також у розробках OpenAI та Anthropic.

🔒 Secure Solutions Hub / Підписатися