先建立位置感

RAG 解决「模型没读过你的文档」;Agent 解决「模型要连续行动」。两者常被揉在一篇里,读的时候先分开:文档怎么进索引,查询怎么召回,工具怎么调用,网关怎么治理流量。

角色与产品定位

  1. Embedding、Rerank 和 LLM:它们在 RAG 里分别干什么
  2. RAGFlow 是什么:它在 RAG 系统里的位置
  3. AgentScope 2.0:从第一个 Agent 到工具调用
  4. Higress:从 API 网关到 AI Gateway

RAG 工程

  1. RAG 是一条链路:从文档入库到带引用的生成
  2. RAG 文本怎么切:固定窗口、父子块与 Late Chunking
  3. RAG 检索为什么不准:多路召回、MMR 与 Query rewrite
  4. RAG 为什么会胡编:拒答、门控和引用核查
  5. RAG 怎么验收:Hit@K、Ragas 和线上指标
  6. RAG 文档改了怎么办:删除、版本号和 Upsert
  7. RAG 向量库怎么选:Chroma、pgvector、Qdrant 和 Milvus
  8. RAG 怎么处理 Word 和扫描 PDF:版面还原和表格通道

Agent 工程

  1. Agent 循环怎么选:ReAct、先规划再执行与反思
  2. Agent 上下文撑不住怎么办:窗口、外置检索和衰减
  3. Agent 怎么停、怎么回放:取消、预算和 trace
  4. Agent 为什么要沙箱:隔离检索、工具和密钥
  5. Multi-Agent 什么时候才该上:角色边界、编排和验收

编排框架

  1. LangChain 提供什么:提示词、LCEL 与可组合组件
  2. LangGraph 管什么:State、边和人机协同
  3. CrewAI 适合什么:角色、任务和 Crew 编排

链和积木用 LangChain;循环、分支、HITL 用 LangGraph;角色制小队用 CrewAI。完整 Runtime、权限和 Sandbox 仍看上面的 AgentScope。

选型时只问三个问题

  • 文档解析和权限是不是核心竞争力?不是,优先平台;是,再拆 Parser / Retrieval / 权限模型。
  • Agent 要不要碰文件系统或生产数据?要,先做沙箱和工具白名单,再谈 Multi-Agent。
  • 要不要统一多家模型的密钥、限流和账单?要,网关层(Higress 一类)比每个业务自己接 SDK 更合适。