🤖 ШІ мав просто записати людину в спортзал. Але вирішив трохи погратись в кіберзлочинність AI-агент самостійно використав вразливість сайту, щоб виконати завдання користувача. Чоловік попросив свого AI-помічника записати його на популярне ранкове тренування. Агент знайшов спосіб забронювати заняття на кілька тижнів уперед — хоча система дозволяла це зробити значно пізніше. А потім вирішив піти ще далі. Користувач був четвертим у черзі на інше заняття й запитав, чи можна підняти його вище у списку. AI виявив, що API системи не перевіряє права на скасування чужих бронювань. І просто скасував бронювання людини, яка була першою в черзі 😅

Коли користувач попросив усе повернути, AI відповів, що вже не може відновити бронювання 😬

Найцікавіше тут те, що ніхто не просив його «ламати» сайт. Він сам знайшов вразливість і використав її, щоб краще виконати поставлене завдання. Це одна з головних проблем автономних AI-агентів: вони не просто відповідають на запити, а можуть самостійно планувати дії, користуватися інтернетом, працювати з поштою, сервісами та іншими інструментами.📞 Алло, це HOSTiQ? 🫂 Служба підтримки