meganuke — технический блог о DevOps и инструментах

WebLLM: запуск LLM прямо в браузере через WebGPU

WebLLM — движок инференса LLM, работающий в браузере с GPU-ускорением через WebGPU и WebAssembly. Он предоставляет OpenAI-совместимый API, поддерживает структурированную генерацию JSON и достигает 85% нативной производительности.

VikingMem: долгосрочная память для LLM без раздутых промптов

ByteDance представила VikingMem — систему управления памятью для LLM-приложений на основе Event-Entity модели с однопроходным извлечением. На бенчмарке LOCOMO она превосходит Zep, Mem0 и Full-Context по качеству ответов при хранении лишь 17% токенов от Naive RAG.

Иерархические директории в векторных БД: TrieHI

Исследователи ByteDance предлагают встроить иерархию директорий прямо в векторную базу данных через prefix-tree индекс (TrieHI), что ускоряет рекурсивные запросы в тысячи раз и снижает стоимость операций MOVE/MERGE.

helmsniff: массовый аудит безопасности Helm-чартов

helmsniff — это CLI-инструмент на Go для статического анализа безопасности отрендеренных Helm-чартов. Он проверяет 20 параметров безопасности и выдаёт CSV/JSON-отчёт, удобный для анализа тысяч чартов через pandas.

© 2026 meganuke