Зараз, я щиро вже не встигаю за технологіями, і важко зрозуміти що і головне як сталось :) Кароче, є компанія TAALAS, які вирішили підійти до запуску моделей AI інакше - замість софта - вони роблять чіпи, в яких ця модел вшита. З мінусів - поміняти модель неможливо, бо це залізо. Тому купив чіп - і якщо хочеш нову модель - треба купувати інший чіп.З іншої сторони - вони просто ЄБАНУТИСЬ які швидкі. Їх перший чіп який крутить на собі Llama 3.1 8B модель видає 17 тисяч токенів в секунду. Я таких цифр ніколи не бачив. В цілому ви можете спробувати їх чат - і офігіти як швидко він відповідає.Насправді такі чіпи будуть дуже класні, для всяких систем, в яких не потрібно мати дуже інтелектуальні моделі: speech-to-text, text-to-speech, і так далі - взагалі топ. А ще TAALAS кажуть, що спекти нові чіпи вони можуть через 60 днів після виходу нової моделі. Це також неймовірно швидко. Ну і всякі штуки, що це енергоефективно, супер швидко, і може бути навіть дешевше. Якби не срана русня - ми б жили в прекрасному світі неймовірного прогресу, який тільки прискорює прогрес.