#大模型

2026

1. 10月23日专栏 · LLM 底层机制与 Agent 工程

   混合检索 RAG 与 SQL Agent 架构研究：从 RRF 重排到执行引导的 Text-to-SQL 闭环

   探讨面向非结构化文档的稠密/稀疏混合检索（BM25 + HNSW + RRF + Cross-Encoder）与面向结构化数据库的 SQL Agent：Schema Linking、外键子图剪枝、AST 安全校验及执行反馈自修正环路。

   #Agent#RAG#SQL#大模型2,271 字
2. 10月23日专栏 · LLM 底层机制与 Agent 工程

   LangGraph 运行时剖析：基于 Pregel 超步模型的状态归约、持久层与中断恢复

   深入 LangGraph 底层执行模型，深入分析 BSP（Bulk Synchronous Parallel）超步调度、通道归约算子（Channel Reducer）、确定性 Checkpoint 写入协议，以及 Human-in-the-Loop 中断与时间旅行的工程实现。

   #Agent#LangGraph#大模型2,491 字
3. 10月23日专栏 · LLM 底层机制与 Agent 工程

   LLM Function Calling 底层机制：从对话模板、有限状态机约束解码到工具循环

   拆解 Function Calling 在词表与 Logits 层的真实执行过程：特殊 Token 协议、JSON Schema 到正则表达式与确定性有限自动机（DFA）的编译、预计算 Token 掩码以及并行工具调用的异常恢复。

   #Agent#大模型#推理系统2,076 字
4. 10月23日专栏 · LLM 底层机制与 Agent 工程

   LLM 推理底层：KV Cache 显存几何、GQA/MLA 压缩与 PagedAttention 调度

   从自回归解码的算术强度瓶颈出发，推导 MHA、GQA 与 DeepSeek MLA 的 KV Cache 显存占用与 Roofline 带宽界，解析 PagedAttention 块表寻址、Prefix Caching 与抢占调度机制。

   #大模型#推理系统2,229 字