​​ШІ випадково видалив базу даних та резервні копії компанії#новини #бізнес Програмний агент на базі штучного інтелекту випадково знищив усю виробничу базу даних та резервні копії платформи PocketOS. Що сталосяКомпанія PocketOS, яка розробляє платформу програмного забезпечення як послуги (SaaS) для бізнесу з оренди автомобілів, використовувала у своїй роботі ШІ-інструмент для написання коду Cursor на базі флагманської моделі Claude Opus 4.6 від Anthropic. За словами засновника стартапу Джера Крейна, алгоритм мав виконати стандартне завдання в тестовому середовищі.Зіткнувшись із системною перешкодою, ШІ-агент самостійно ухвалив рішення «виправити» проблему. Він відправив команду на видалення тому даних через програмний інтерфейс (API) провайдера хмарної інфраструктури Railway. Процес повного знищення клієнтської інформації тривав дев'ять секунд.Відповідь алгоритму та аналіз помилокПісля інциденту Крейн запитав у ШІ-асистента про причини таких дій. Алгоритм видав розгорнуту відповідь, у якій визнав хибність свого рішення: «Я припустив, що видалення тестового тому через API стосуватиметься лише тестового середовища».ШІ зазначив, що не перевірив, чи є ідентифікатор тому спільним для різних середовищ, і не ознайомився з технічною документацією Railway щодо роботи з даними. У своєму повідомленні алгоритм підтвердив, що порушив базові інструкції.Чому це важливо: урок для бізнесуЦя подія є об'єктивним індикатором ризиків, пов'язаних із делегуванням критичних прав доступу автономним системам. Темпи впровадження штучного інтелекту в корпоративний сектор наразі суттєво випереджають розвиток архітектури безпеки хмарних провайдерів. Для бізнесу це означає необхідність фундаментального перегляду протоколів безпеки: запровадження фізично ізольованих і регулярних резервних копій, а також суворого обмеження дозволів для будь-яких автоматизованих інструментів. Відсутність таких запобіжників перетворює оптимізацію робочих процесів на загрозу повної зупинки операційної діяльності компанії.Business Week