Login Sign Up
Advert
Your ad spot
Reserve this exclusive slot for the selected period.
Buy advertising →
Telegram community logo - ШІ: Від теорії до практики
Added 06 Jan 2025

ШІ: Від теорії до практики

@AI_Practice
Number of subscribers: 387
Photos: 7,800
Videos: 4,059
Links: 6,930
Description:
AI Practice: Перетворюємо складні AI-технології на ефективні рішення для бізнесу та життя • Огляди нових AI-сервісів із практичними прикладами застосування • Зрозумілою мовою про складні технології • Регулярні оновлення в швидкозмінній сфері AI
Source

ШІ: Від теорії до практики | Google навчила мовну модель думати як дифузійний генератор — і отримал...

Telegram community logo - ШІ: Від теорії до практики ШІ: Від теорії до практики @AI_Practice
40 Views/Reach 2026-06-12 11:59 Message №12249
Google навчила мовну модель думати як дифузійний генератор — і отримала 1000 токенів за секундуВсі сучасні мовні моделі генерують текст однаково: слово за словом, зліва направо. Google вирішила спробувати інший принцип.DiffusionGemma — 26B модель на архітектурі Gemma 4 з активними ~4B параметрами, яка обробляє великі блоки токенів одночасно, а не послідовно. Спочатку створює чернетку тексту, потім кілька разів уточнює і покращує результат — як дифузійні генератори зображень.Результат по швидкості: понад 1000 токенів за секунду на NVIDIA H100 і близько 700 на RTX 5090. Для порівняння — більшість топових моделей видають 60-150 токенів за секунду.Підтримується vLLM і Unsloth для локального запуску.Але є чесний нюанс: це експериментальна розробка. За якістю відповідей модель поки поступається класичним Gemma 4. Тобто це не заміна — це доказ концепції: дифузійний підхід до тексту технічно працює і дає радикальне прискорення.Якщо якість вдасться підтягнути до рівня звичайних моделей — архітектура може змінити стандарт.👉 Демо на HuggingFace 👉 Модель 👉 Блог Google#Корисні_нейронкиПідписатись на канал: ШІ: Від теорії до практики