Thoughts on systems design, backend engineering, AI, and the work of building useful products.
剖析模型生成代码的安全执行:本地执行器靠 import 白名单、AST 逐句解释、超时与输出截断做受限执行,但并非真沙箱;真正不可信代码需切换远端执行器实现完全隔离。
解析 Tool 与 ToolCollection:单个工具的标准化契约(名字、描述、入参出参、构造即校验、懒初始化),以及从手写、HuggingFace Hub、langchain 到 MCP 服务器的多来源批量加载与聚合方案。
拆解 MultiStepAgent 抽象基类:把任务拆成多轮「思考→动作→观察」的 ReAct 循环,统筹记忆、规划、异常分级与可观测性,并分析结果到达、步数超限、外部打断三类出口与强制兜底策略。
对比两大子类:ToolCallingAgent 逐个调用工具,动作原子化、结构确定、天然支持并行;CodeAgent 让模型直接写 Python 代码,一段代码等于一次思考加多次行动,大幅减少往返,配合沙箱白名单安全执行。
LangChain是智能体开发基础层,提供模型、消息、工具等模块化能力,LangGraph为底层编排引擎,通过状态、节点、边实现可控复杂工作流。配套LangSmith、第三方Langfuse提供可观测能力,依托中间件、分层记忆实现容错与上下文治理。Agent遵循LLM+Harness架构,Hermes基于GEPA算法,可离线迭代技能库,实现智能体自主进化。
RAG即检索增强生成,通过知识与模型参数解耦,无需微调大模型,解决模型知识滞后、私有知识缺失、幻觉问题。分为离线建库(文档分块、Embedding向量化、向量入库)与在线推理(Query改写、多路召回、Rerank精排、Prompt组装生成)。工程以混合检索、Chunk优化、分层评测优化效果,仅缓解幻觉,无法彻底根除。
本文系统讲解 Agent 相关核心概念:Agent 以大模型为大脑,依靠规划、工具、记忆形成执行闭环,区分于被动输出的裸 LLM。介绍 ReAct、Plan‑and‑Execute、Reflection 等范式,对比 Workflow、Tools 差异,阐述长短记忆、压缩方案、Multi‑Agent 协作调度,分析手搓 Agent 与框架选型,覆盖规划反思机制与工程落地权衡。
自研终端 AI 编程 Agent,实现守护进程 + TUI 双进程架构,通过 TCP JSON-RPC2.0、NDJSON 完成进程间流式通信。基于 ReAct 构建 Agent 主循环,封装 LLM 抽象层;自研 Skill 工具系统,兼容 MCP 工具协议;工具/模型的洋葱中间件责任链统一处理权限、事件、参数校验;支持隔离 Sub-Agent 协作与父子事件总线桥接;实现双层记忆、上下文压缩,配套文件操作权限审批与黑名单安全防护。 https://github.com/guosgbin/kwokcode