kerikoの行星观察笔记

kerikoの行星观察笔记

记录技术探索、开源旅程和偶尔发呆的地方

LLM 基础设施工程师的技术随笔。
KV Cache / 容器镜像 / 性能测试 / 开源实践

文章列表

  1. 技术分享

    从一个 LLM 性能测试框架的命名困境出发:为什么它不该叫"LLM Performance Benchmark",而应该叫 EVA(Engineering Validation Architecture)——一套把工程问题转化为可定义、可复现、可执行、可测量、可分析、可验证实验的通用工程验证体系

    EVA工程验证测试框架架构设计LLM
  2. 学习笔记

    从 Transformer 的每个零件开始,到 KV Cache、MLA、FlashAttention 与混合模型:一份注意力机制与架构演进的系统笔记

    LLMTransformerAttentionKV Cache推理优化
查看全部文章