Login Sign Up
Advert
Your ad spot
Reserve this exclusive slot for the selected period.
Buy advertising →
Telegram community logo - Затишна Галера
Added 06 Jan 2025

Затишна Галера

@Zatishna_Galera
Number of subscribers: 2 709
Photos: 1,350
Videos: 431
Links: 1,830
Description:
Голова Одеського центру розробки DataArt та Delivery Director, капітан Затишної Галери, ділитимуся: завданнями із співбесід (QA/Delivery/Management), статтями, вакансіями, новинами зі світу IT. Контакт: [email protected] ; Patreon: patreon.com/CozyGalley
Source

Затишна Галера | GOOGLE І TURBOQUANT - ПОРЯТУНОК ЧИ НІ?Інтернет уже шумить кілька днів ...

Telegram community logo - Затишна Галера Затишна Галера @Zatishna_Galera
688 Views/Reach 2026-03-27 10:01 Message №2543
GOOGLE І TURBOQUANT - ПОРЯТУНОК ЧИ НІ?Інтернет уже шумить кілька днів з приводу TurboQuant, алгоритму, який, за заявою багатьох авторів, може скоротити в 6 разів використання пам’яті для нейронок і збільшити швидкість у 8 разів, але чи так це?Я не буду вдаватися в подробиці, як це працює технічно дуже глибоко, скажу лише, що головна штука цього алгоритму в тому, що він результат, дуже грубо кажучи, розмазує й округляє для кожної частини вхідних значень, а потім цей «апроксимований результат» з великого обсягу даних видає як кінцевий. І загалом ідея здорова, коли точність вам не важлива.Проблема тільки в тому, що якраз для LLM точність важлива, інакше що ми отримаємо на виході? Правильно - безліч галюцинацій. І хоч алгоритм має право на існування й може зробити свій внесок, ось тільки він був опублікований ще 28 квітня 2025 року, а зараз просто з цього роздули новину. Тобто його вже точно застосовують, якщо він може бути десь корисним, а значить, і так уся можлива на сьогодні економія використана, і це ніяк не вплине на пам’ять.При цьому десяток каналів, тільки в мене в підписках, уже радісно видають цю новину як «прорив». Ну так, прорив, який, по-перше, не завжди допоможе, а по-друге, вже старуватий. Ну лох не мамонт, як то кажуть, підписники таких каналів схавають.А ми з командою наших пасажирів такими не вважаємо, тому читайте перевірені новини й робіть висновки самі.Акції компаній, що виробляють пам’ять, на тлі новини все одно впали на 10-15% (зокрема Samsung і Micron).@Zatishna_Galera