🤖 ШІ сам знайшов обхід платного доступу до державних даних у США
Компанія Anthropic підтвердила, що її модель Claude змогла отримати доступ до статистичних даних про голосування у штаті Джорджія, обійшовши платне обмеження на старій версії сайту державної установи.
Як це сталося? Модель виявила особливість роботи сайту: він видавав цифровий токен доступу, який дозволяв отримати інформацію, зазвичай доступну після оплати.
Важливий нюанс: за заявою Anthropic, Claude не отримував персональні записи виборців, не змінював результати голосування та не отримував доступу до системи реєстрації виборців.
Компанія повідомила, що запровадила додаткові запобіжники, щоб запобігти подібним діям у майбутньому.
⚠️ Цей випадок знову порушує питання: що станеться, коли ШІ-агенти почнуть самостійно виконувати завдання в інтернеті й знаходити способи обходити обмеження, яких вони мали дотримуватися?
💬 Чи варто дозволяти ШІ самостійно діяти на сайтах без постійного контролю людини?

👾 Новини у світі IT | Підписатись