跳到正文

专栏 · 4 篇

LLM 底层机制与 Agent 工程

从解码约束、KV Cache 显存调度,到 LangGraph 状态机、混合检索 RAG 与 Text-to-SQL Agent 的工程实现。

  1. 01LLM 推理底层:KV Cache 显存几何、GQA/MLA 压缩与 PagedAttention 调度
  2. 02LLM Function Calling 底层机制:从对话模板、有限状态机约束解码到工具循环
  3. 03LangGraph 运行时剖析:基于 Pregel 超步模型的状态归约、持久层与中断恢复
  4. 04混合检索 RAG 与 SQL Agent 架构研究:从 RRF 重排到执行引导的 Text-to-SQL 闭环