LLM 基础设施工程师的技术随笔。 KV Cache / 容器镜像 / 性能测试 / 开源实践https://keriko-blog.pages.dev/zh-CNhttps://keriko-blog.pages.dev/posts/eva-engineering-validation-architecturehttps://keriko-blog.pages.dev/posts/eva-engineering-validation-architecture从一个 LLM 性能测试框架的命名困境出发：为什么它不该叫"LLM Performance Benchmark"，而应该叫 EVA（Engineering Validation Architecture）——一套把工程问题转化为可定义、可复现、可执行、可测量、可分析、可验证实验的通用工程验证体系Mon, 31 Aug 2026 00:00:00 GMT技术分享EVA工程验证测试框架架构设计LLMhttps://keriko-blog.pages.dev/posts/ucm-hybrid-cache-designhttps://keriko-blog.pages.dev/posts/ucm-hybrid-cache-design面向混合模型（MLA/SWA/Mamba/KDA 混搭）的缓存系统设计报告：规格表、协调器、组件投票、存储双原语与逐层流水适配（V6）Fri, 28 Aug 2026 00:00:00 GMT项目笔记UCMKV Cache混合模型vLLM设计文档https://keriko-blog.pages.dev/posts/llm-attention-mechanismhttps://keriko-blog.pages.dev/posts/llm-attention-mechanism从 Transformer 的每个零件开始，到 KV Cache、MLA、FlashAttention 与混合模型：一份注意力机制与架构演进的系统笔记Sat, 22 Aug 2026 00:00:00 GMT学习笔记LLMTransformerAttentionKV Cache推理优化https://keriko-blog.pages.dev/posts/017-jenkins-async-pipelinehttps://keriko-blog.pages.dev/posts/017-jenkins-async-pipelineJenkins 流水线异步调用与跨流水线通信完全指南：HTTP 回调、队列与 DSL 实战Mon, 08 Jun 2026 00:00:00 GMT技术分享JenkinsCI/CDPipelineGroovyDevOps异步编程https://keriko-blog.pages.dev/posts/009-btree-indexhttps://keriko-blog.pages.dev/posts/009-btree-index从磁盘 I/O 讲起，理解 B+ 树索引为什么长这样——一次被面试问深之后的学习笔记Wed, 03 Jun 2026 00:00:00 GMT技术分享MySQL数据库B+树索引https://keriko-blog.pages.dev/posts/010-nanovllmhttps://keriko-blog.pages.dev/posts/010-nanovllm通过阅读 nanovllm 源码，理解 LLM 推理引擎的核心架构：调度器、KV Cache 块管理、模型执行流程Wed, 03 Jun 2026 00:00:00 GMT技术分享LLMvLLM源码阅读KV CachePythonhttps://keriko-blog.pages.dev/posts/011-gpu-monitorhttps://keriko-blog.pages.dev/posts/011-gpu-monitor对比 btop、nvidia-smi、gpustat、nvtop 等 GPU/CPU 监控工具，附安装和使用方法Wed, 03 Jun 2026 00:00:00 GMT技术分享GPU运维工具LLMhttps://keriko-blog.pages.dev/posts/006-prefix-benchhttps://keriko-blog.pages.dev/posts/006-prefix-benchPrefixBench 数据集：31,255条样本覆盖 8K-128K 长上下文，评估 KV Cache 前缀复用效率Tue, 02 Jun 2026 00:00:00 GMT技术分享LLMKV Cachebenchmarkprefix-cachehttps://keriko-blog.pages.dev/posts/007-mcps2onehttps://keriko-blog.pages.dev/posts/007-mcps2oneMCPS2ONE 用小语言模型智能选择 MCP 工具，减少主模型的 token 消耗和上下文窗口占用Tue, 02 Jun 2026 00:00:00 GMT技术分享MCPAI工具token优化https://keriko-blog.pages.dev/posts/005-my-projectshttps://keriko-blog.pages.dev/posts/005-my-projects回顾这几年在 LLM 基础设施方向的开源项目探索，从性能测试到镜像管理，从 KV Cache 优化到多用户系统，记录踩坑过程中的技术成长Mon, 01 Jun 2026 00:00:00 GMT项目笔记开源项目总结LLMhttps://keriko-blog.pages.dev/posts/008-api2mcphttps://keriko-blog.pages.dev/posts/008-api2mcpAPI2MCP 将 REST API 统一封装为 MCP 服务，支持 Web 管理界面、多种认证、SSE 流式Mon, 25 May 2026 00:00:00 GMT技术分享MCPAPIFastAPI工具https://keriko-blog.pages.dev/posts/012-mcp-transporthttps://keriko-blog.pages.dev/posts/012-mcp-transport对比 stdio、SSE、Streamable HTTP 三种 MCP 传输机制的适用场景与选型建议Wed, 20 May 2026 00:00:00 GMT技术分享MCPAI协议https://keriko-blog.pages.dev/posts/004-llm-perf-testinghttps://keriko-blog.pages.dev/posts/004-llm-perf-testing介绍如何使用 pytest 构建 LLM 推理性能自动化测试框架，包括 YAML 配置管理、数据库集成、HTML 报告生成等核心功能Fri, 08 May 2026 00:00:00 GMT技术分享LLM性能测试pytestvLLMhttps://keriko-blog.pages.dev/posts/013-mit-6824https://keriko-blog.pages.dev/posts/013-mit-6824MIT 6.824 分布式系统课程学习笔记：从 MapReduce 到 Raft，梳理核心概念与实验思路Wed, 15 Apr 2026 00:00:00 GMT技术分享分布式系统MITMapReduceRaft学习笔记https://keriko-blog.pages.dev/posts/003-vibecodinghttps://keriko-blog.pages.dev/posts/003-vibecoding探讨 VibeCoding 的核心理念：AI 是超级实习生，我们是善后工程师。通过黄金闭环和四维把控法，找到人机协作的最佳边界Fri, 10 Apr 2026 00:00:00 GMTAI思考AIVibeCoding编程思考https://keriko-blog.pages.dev/posts/016-diffusion-modelhttps://keriko-blog.pages.dev/posts/016-diffusion-modelDiffusion Model 扩散模型学习笔记：从原理到应用，配合李宏毅课程的理解整理Sun, 05 Apr 2026 00:00:00 GMT技术分享AIDiffusion Model生成模型李宏毅学习笔记https://keriko-blog.pages.dev/posts/014-cookie-session-tokenhttps://keriko-blog.pages.dev/posts/014-cookie-session-tokenCookie、Session、Token 三种 Web 认证方案：原理、优缺点与选型对比Wed, 25 Mar 2026 00:00:00 GMT技术分享Web认证CookieSessionTokenhttps://keriko-blog.pages.dev/posts/015-url-to-pagehttps://keriko-blog.pages.dev/posts/015-url-to-page当你在浏览器输入网址按下回车后，背后发生了什么？从DNS解析、TCP握手、TLS加密到HTTP请求、服务器处理、页面渲染的完整过程Fri, 20 Mar 2026 00:00:00 GMT技术分享网络HTTPDNS浏览器https://keriko-blog.pages.dev/posts/docker-pull-tarhttps://keriko-blog.pages.dev/posts/docker-pull-tardocker-pull-tar：一个无需 Docker/Python 环境的镜像拉取工具，支持断点续传、多架构、SHA256 校验、并发下载，适合内网和离线部署场景Sun, 15 Mar 2026 00:00:00 GMT技术分享docker工具运维https://keriko-blog.pages.dev/posts/first-posthttps://keriko-blog.pages.dev/posts/first-post这是我的第一篇博客文章，使用 Hugo 和 Blowfish 主题搭建Sun, 08 Mar 2026 00:00:00 GMT生活HugoBlowfish博客https://keriko-blog.pages.dev/posts/001https://keriko-blog.pages.dev/posts/001串台「三五环」：聊一聊追求「稳定」背后要直面的不确定性。钱婧老师会客厅 Vol 53Sat, 08 Mar 2025 00:00:00 GMT生活播客随笔https://keriko-blog.pages.dev/posts/17663410https://keriko-blog.pages.dev/posts/17663410从没有想过一些小小求余函数能给自己带来这么大的困扰。Exam1是一个很好Mon, 28 Aug 2023 00:00:00 GMT学习笔记CS61A学习复盘https://keriko-blog.pages.dev/posts/17663437https://keriko-blog.pages.dev/posts/17663437作为CS61A的第一个完整项目，整体难度较易。Mon, 28 Aug 2023 00:00:00 GMT学习笔记CS61A项目复盘https://keriko-blog.pages.dev/posts/17217510https://keriko-blog.pages.dev/posts/17217510百度上乱七八糟方法很多，最简单的是下面这个，亲测有效（Win10 LTSC 1809 Win10 LTSC 21H2）：Wed, 15 Mar 2023 00:00:00 GMT技术分享Windows应用商店教程https://keriko-blog.pages.dev/posts/17211592https://keriko-blog.pages.dev/posts/17211592上智能计算系统课程，了解到VScode可以连接远程服务器来编写代码，分享一下使用过程和踩坑经历。Mon, 13 Mar 2023 00:00:00 GMT技术分享VSCodeSSH远程开发踩坑https://keriko-blog.pages.dev/posts/17211616https://keriko-blog.pages.dev/posts/17211616计算机类专业课程大体上差别不大，推荐计算机科学与技术或者软件工程。其他细分行业诸如物联网，信息安全，人工智能与大数据等，在本科基本都只能学个皮毛;感兴趣的话可以自学，网上就有许多的教程。Mon, 13 Mar 2023 00:00:00 GMT生活随笔生活思考https://keriko-blog.pages.dev/posts/17188488https://keriko-blog.pages.dev/posts/17188488大部分人都是暑假开始的，180天左右的时间也是够的。但是推荐从现在就开始。整体进度规划按照“空卡空卡空空卡”的每月进度安排即可，但因为408专业课较多，可以多分配一些时间。Tue, 07 Mar 2023 00:00:00 GMT学习笔记考研408复习规划https://keriko-blog.pages.dev/posts/17188499https://keriko-blog.pages.dev/posts/17188499复试对于整个研究生考试是相当重要的，可能你排名靠后复试成功逆袭上岸，也许你初试第一复试折戟。这些都是有可能的，这样的案例太多太多。那些初试400，两篇 Nature 不打老师就能过也就只能当段子了哈。不知道你们今年的复试Tue, 07 Mar 2023 00:00:00 GMT学习笔记考研复试经验分享https://keriko-blog.pages.dev/posts/17136288https://keriko-blog.pages.dev/posts/17136288Markdown 常用语法指北：标题、列表、引用、代码块、表格与链接图片的写法速查Mon, 20 Feb 2023 00:00:00 GMT学习笔记Markdown写作指南https://keriko-blog.pages.dev/posts/17136372https://keriko-blog.pages.dev/posts/17136372不知从什么时候起，就喜欢上了听播客，看别人敞开心扉，谈天说地，仿佛自己也置身其中。Mon, 20 Feb 2023 00:00:00 GMT生活播客随笔https://keriko-blog.pages.dev/posts/17136400https://keriko-blog.pages.dev/posts/17136400最开始启动计算机的时候，计算机内存未初始化，没有任何程序。而因为CPU只能读取内存中的程序，所以必须将操作系统先加载进内存当中才能使用操作系统的代码，这就需要使用BIOS。BIOS程序的入口地址为0xFFFF0,即为CSMon, 20 Feb 2023 00:00:00 GMT学习笔记操作系统国科大复习题