🏛 Google представила TurboQuant — алгоритм стиснення пам’яті для ШІ без втрати точностіGoogle розробила новий алгоритм TurboQuant, який дозволяє значно зменшити використання пам’яті в системах штучного інтелекту без втрати якості роботи.Проблема, яку вирішує технологія — обмеження пам’яті в ШІ, зокрема у так званому KV-кеші, що використовується під час обробки запитів. Зазвичай стиснення даних призводить до втрати точності або потребує додаткових ресурсів, але TurboQuant поєднує кілька методів, щоб цього уникнути.Алгоритм використовує вдосконалене векторне квантування (PolarQuant), яке зменшує обсяг даних без зайвих витрат пам’яті, а також додатковий метод для обробки залишкових помилок. Це дозволяє стискати дані до дуже низького рівня — до 3 біт — без погіршення точності та навіть із пришвидшенням роботи моделей.Тестування на популярних моделях показало, що TurboQuant зменшує обсяг пам’яті щонайменше у 6 разів і пришвидшує пошук та обробку даних, що важливо для великих ШІ-систем і пошукових сервісів.На фоні новини ринок відреагував: акції SK Hynix та Samsung Electronics знизилися через очікування падіння попиту на пам’ять.TurboQuant може змінити баланс на ринку: зменшити потребу в дорогому обладнанні, зробити ШІ доступнішим і вплинути на індустрію виробництва компонентів.