#llm

Inference-aware routing в Kubernetes: мониторинг LLM

Inference Extension для Kubernetes Gateway API маршрутизирует LLM-запросы с учётом состояния KV-кэша, LoRA-адаптеров и глубины очередей бэкендов. Статья объясняет архитектуру расширения и показывает, как отслеживать эффективность маршрутизации через Datadog.

Почему LLM пишут неправильный SQL — и что это значит для вашей БД

Большинство LLM-сгенерированного SQL не падает. Он выполняется и возвращает результат — но не тот, что нужен. Разбор пяти типов «правдоподобно-неправильного» SQL и того, что это значит для архитектуры данных.

Что на самом деле означает использование AI для пост-мортемов

Все теперь используют AI для пост-мортемов, но «использовать AI» означает совершенно разные вещи — от автозаполнения до полной автогенерации. Разбор четырёх уровней с честными trade-off'ами.

© 2026 meganuke