AI + МЕРЕЖІNVIDIA PAIR: ваші комп’ютери можуть працювати над AI-завданнями разом

Один ПК стоїть у черзі з AI-запитів, а поруч є ще дві машини з вільними ресурсами. NVIDIA пропонує залучити їх до роботи через локальну мережу.3 вересня компанія представила PAIR - Personal AI Router. Це програма, яка знаходить сумісні комп’ютери в мережі та розподіляє між ними окремі запити до AI-моделей. Поки доступна бета-версія. Уявімо: AI-агент отримав завдання проаналізувати документи. Частину незалежних запитів обробляє робоча станція, інші підхоплюють доступні вузли. Кожен запит повністю виконується на одному комп’ютері.Що вже підтримується:▪️ Сумісні ПК із GeForce RTX 20-ї серії та новіших, RTX PRO, DGX Spark і Mac з Apple M4 та новішими чипами.▪️ Windows, Linux і macOS.▪️ Ollama та LM Studio для запуску локальних моделей. PAIR дозволяє залишити обробку AI-запитів у локальній мережі та використовувати кілька наявних пристроїв. Спеціальні серверні стійки чи кластерне обладнання для цього не потрібні.А де тут робота для мережевиків?

Для офісу, студії чи команди розробки такий сценарій варто розглянути як пілот. А інтегратору є що перевірити: зв’язність між вузлами, правила доступу, стабільність з’єднання та реальне навантаження на мережу. Тут і з’являється практичний місток до знайомих нам MikroTik, Ubiquiti, ASUS та Omada: мережева інфраструктура з’єднує пристрої, які виконують AI-завдання. Є нюанс: пам’ять відеокарт не підсумовується. PAIR розподіляє окремі запити, тому виграш залежить від того, скільки роботи можна виконувати паралельно.А ви вже запускали локальний AI у себе або в клієнтів? Яке завдання вирішували?