Iniciar sesión Registro
Anuncios
Tu espacio publicitario
Reserva este slot exclusivo para el periodo elegido.
Comprar publicidad →
Logotipo de la comunidad de telegram - Продуктівіті 🇺🇦 АБО Самокат Продуктивності
Añadido 14 jul. 2024 🌐 UK

Продуктівіті 🇺🇦 АБО Самокат Продуктивності

@trkvmd
Número de suscriptores: 1 650
Fotos: 85
Videos: 58
Enlaces: 3,160
Descripción:
🚀 Від чувака з todoist-carma 84,885. Все, що знайдено цікавого та корисного. Все, чим користуюся. Ще є твіттер https://twitter.com/zahareus і Сабстек https://migratorg.substack.com/ - але там більше про стартапи.
Fuente

Продуктівіті 🇺🇦 АБО Самокат Продуктивності | CanIRun.ai - показує, які локальні моделі твій комп справді витягнеВід...

🤖 CanIRun.ai - показує, які локальні моделі твій комп справді витягне

Відкриваєш сторінку, і воно саме визначає GPU або Mac: обсяг VRAM, пропускну здатність, оперативку, ядра. Далі 104 відкриті моделі розкладаються на три купки - йде комфортно, йде впритул, забудь.

Це приміряльня для моделей. Або сідає по твоєму залізу, або тріщить по швах.

→ у кожної моделі показані всі квантизації від Q2_K до F16 і скільки гігабайтів кожна відкусить
→ приблизна швидкість у токенах за секунду і доступний контекст
→ окремі підбірки під кодинг, картинки, відео і дрібняк до 4B
→ tier-list з оцінками від S до F, порівняння двох конфігурацій, сторінка з чужим залізом
→ відкритий код, автор - midudev

Компліментів воно не робить. На слабкій машині пише прямо: нічого не йде комфортно, 71 модель зі 104 завелика.

Це дві хвилини замість вечора з калькулятором VRAM і форумом Reddit. А найцінніше тут - чесне «забудь»: воно економить ті вісім гігабайтів, які ти качав би дарма.

#ai #інструмент #локально

https://www.canirun.ai/

📎 Читайте також:
→ LlamaBarn - локальні LLM з menu bar на Mac
→ Ollama з підтримкою AMD-карт
→ OpenClaw - AI-асистент на твоїй машині