#gpu

KSolver: оптимизация GPU-планирования в Kubernetes

KSolver — решатель ограничений для Kubernetes, который анализирует фрагментацию GPU-ресурсов, объясняет причины ожидания подов и показывает, сколько денег теряется из-за неоптимального размещения нагрузок.

NVIDIA AICR: надёжные рецепты для GPU-кластеров

NVIDIA AI Cluster Runtime (AICR) — инструмент с открытым исходным кодом, генерирующий проверенные конфигурации для GPU-ускоренных кластеров Kubernetes под конкретное сочетание облака, оборудования и рабочей нагрузки.

piqc: находим утечки GPU-бюджета в Kubernetes

piqc — открытый коллектор фактов для AI-инференса на Kubernetes, который выявляет три типа GPU-расточительства: простаивающие аллокации, несоответствие уровней оборудования и тёмную ёмкость. Один запуск `piqc scan` даёт мгновенный отчёт о стоимости без внешних платформ.

Паттерны Kubernetes для LLM-нагрузок: что меняется

Классические паттерны Kubernetes (Deployment, StatefulSet, DaemonSet) применимы к LLM-нагрузкам, но масштаб и параметры кардинально меняются: секунды превращаются в минуты, мегабайты — в гигабайты. Появляются и новые паттерны: Model Data Staging, Token-Aware Routing, RAG Composition.

© 2026 meganuke