kerikoの行星观察笔记

kerikoの行星观察笔记

记录技术探索、开源旅程和偶尔发呆的地方

LLM 基础设施工程师的技术随笔。
KV Cache / 容器镜像 / 性能测试 / 开源实践

文章列表

  1. 技术分享

    转载 mag1c-h/unified-cache-management 仓库的 UCM v2 接口设计文档:分层语义、数据模型、Store 与 Proxy 接口契约、七类决策规则、参考实现、典型时序与扩展指南,含原文全部 22 张表格、19 段代码与 8 张示意图

    UCMKV Cache接口设计架构设计C++搬运
  2. 项目笔记

    多 rank 共享同一份 KV 缓存时,UCM 的加载路径卡在锁步争用、环形淘汰与等待开销上。本文拆解四次重构:旋转访问、CLOCK 二次机会、无锁状态与下一格预热。

    UCMKV Cache多进程性能优化
查看全部文章