❓Чи зберігається конфіденційність під час переписки з ChatGPT та іншими AI-помічникамиДослідники в галузі кібербезпеки виявили несподівану ваду в системі безпеки AI-помічників. Це ставить під загрозу приватність ваших звернень.Дійсно, початкові питання, з якими ми звертаємося до інструментів ШІ, або документи, які ми відправляємо, надійно зашифровані. Але кожне окреме слово відповіді від AI-асистентів відправляється як окремий пакет. Під час моніторингу мережевого трафіку і вимірювання різниці в розмірах пакетів дослідники змогли визначити точну кількість символів у кожному слові.Річ у тім, що мовні моделі ШІ обробляють текст, використовуючи «токени» — базові елементи розуміння та генерації мови. Оскільки ці патерни токенізації є загальнодоступними, потенційно їх можуть використовувати для розшифровування повідомлень.Наприклад, коли хтось запитує ШІ-асистента про стан здоров’я, його початкове повідомлення надійно зашифроване. Однак за відповіддю ChatGPT, яке може починатися з фрази «Мені шкода чути про вашу ангіну», людина, яка моніторить мережевий трафік, потенційно може розшифрувати відповідь і здогадатися, про що було вихідне питання.#штаб_маркетинг