#nvidia

NVIDIA PAIR: локальный маршрутизатор AI-инференса

NVIDIA Personal AI Router (PAIR) — локальный маршрутизатор инференса для группы машин в одной сети, совместимый с Ollama и OpenAI API. Он распределяет запросы по узлам с учётом доступности модели и нагрузки, сохраняя данные внутри локальной сети.

NVIDIA AICR: надёжные рецепты для GPU-кластеров

NVIDIA AI Cluster Runtime (AICR) — инструмент с открытым исходным кодом, генерирующий проверенные конфигурации для GPU-ускоренных кластеров Kubernetes под конкретное сочетание облака, оборудования и рабочей нагрузки.

© 2026 meganuke