Login Sign Up
Advert
Your ad spot
Reserve this exclusive slot for the selected period.
Buy advertising →
Telegram community logo - Продуктівіті 🇺🇦 АБО Самокат Продуктивності
Added 14 Jul 2024 🌐 UK

Продуктівіті 🇺🇦 АБО Самокат Продуктивності

@trkvmd
Number of subscribers: 1 650
Photos: 85
Videos: 58
Links: 3,160
Description:
🚀 Від чувака з todoist-carma 84,885. Все, що знайдено цікавого та корисного. Все, чим користуюся. Ще є твіттер https://twitter.com/zahareus і Сабстек https://migratorg.substack.com/ - але там більше про стартапи.
Source

Продуктівіті 🇺🇦 АБО Самокат Продуктивності | CanIRun.ai - показує, які локальні моделі твій комп справді витягнеВід...

🤖 CanIRun.ai - показує, які локальні моделі твій комп справді витягне

Відкриваєш сторінку, і воно саме визначає GPU або Mac: обсяг VRAM, пропускну здатність, оперативку, ядра. Далі 104 відкриті моделі розкладаються на три купки - йде комфортно, йде впритул, забудь.

Це приміряльня для моделей. Або сідає по твоєму залізу, або тріщить по швах.

→ у кожної моделі показані всі квантизації від Q2_K до F16 і скільки гігабайтів кожна відкусить
→ приблизна швидкість у токенах за секунду і доступний контекст
→ окремі підбірки під кодинг, картинки, відео і дрібняк до 4B
→ tier-list з оцінками від S до F, порівняння двох конфігурацій, сторінка з чужим залізом
→ відкритий код, автор - midudev

Компліментів воно не робить. На слабкій машині пише прямо: нічого не йде комфортно, 71 модель зі 104 завелика.

Це дві хвилини замість вечора з калькулятором VRAM і форумом Reddit. А найцінніше тут - чесне «забудь»: воно економить ті вісім гігабайтів, які ти качав би дарма.

#ai #інструмент #локально

https://www.canirun.ai/

📎 Читайте також:
→ LlamaBarn - локальні LLM з menu bar на Mac
→ Ollama з підтримкою AMD-карт
→ OpenClaw - AI-асистент на твоїй машині