meganuke — технический блог о DevOps и инструментах

Inference-aware routing в Kubernetes: мониторинг LLM

Inference Extension для Kubernetes Gateway API маршрутизирует LLM-запросы с учётом состояния KV-кэша, LoRA-адаптеров и глубины очередей бэкендов. Статья объясняет архитектуру расширения и показывает, как отслеживать эффективность маршрутизации через Datadog.

pg_durable: устойчивое выполнение внутри PostgreSQL

pg_durable — расширение PostgreSQL от Microsoft, реализующее durable execution прямо внутри базы данных: SQL-рабочие процессы с контрольными точками, переживающие сбои и перезапуски без внешних оркестраторов.

© 2026 meganuke