https://lautung.com/categories/rag纸上得来终觉浅，绝知此事要躬行！Halo v2.27.2zh-cnhttps://lautung.com/upload/ChatGPT%20Image%202026%E5%B9%B47%E6%9C%8810%E6%97%A5%2002_45_40(1).webphttps://lautung.com/categories/ragSat, 14 Nov 2026 00:07:05 GMThttps://lautung.com/archives/rag-engineeringRAG系统成功关键在于稳定检索链路和科学工程管理：需建立严格的文档处理管线（去重带版本控制、按类型分块、元数据过滤），选择适配业务场景的多路融合方案（向量检索+BM25字面检索结合RRF/权重融合再经MMR补多样性），存储层面根据规模选型（ Milvus应对百万级大数据量，Chroma适合原型验证），引入知识图谱解决复杂关联问题。工程实践需三重保险：1）前置人工质检（文档入库审核与生成答案终审）2）构建可复现评估矩阵（检索用Hit@k/Recall@k，生成用pass@k+忠实度指标）3）建立GEO优化规范（结构化内容设计引用兼容性）。落地防坑：存储不要塞入原文大字段、BM25需自定义词典匹配业务语料、索引参数必须压测验证性能，避免因擅自迁移线上环境导致查询失败。]]>/archives/rag-engineeringLTTRAGWed, 16 Sep 2026 06:21:50 GMThttps://lautung.com/archives/rag-word-pdf扫描件与Word文档因格式差异需采用独立流水线处理。扫描件仅存像素，使用传统分块处理易导致表格结构破坏和页眉干扰，需通过版面还原工具（如IBM Docling/Marker）转换为保留层级顺序的Markdown等结构化文本。复杂表格建议转HTML/JSON后入库，采用LlamaParse类解析器做二次处理确保数据连贯性。处理低质量扫描件时，应先进行倾斜校正和OCR预处理，对置信度低于阈值的页面需人工复核标识而非静默索引。验收标准以实际能否准确提取表格数据为依据，而非单纯字符准确率，分块策略需参照系列文档中Chunking技术规范。文末强调解析系统的价值在于传递数据结构而非简单字符分割，混合使用不同格式文件时应分离处理路径。]]>/archives/rag-word-pdfLTTRAGThu, 10 Sep 2026 07:16:53 GMThttps://lautung.com/archives/rag-vector-db本文探讨Embedding数据库选型建议与核心注意事项。Chroma适合单机原型，pgvector适配已有PostgreSQL生态，Qdrant适用于中小规模部署且运维成本低，Milvus在数据量增长且需量化存储时表现突出。内存不足时建议先采用SQ8索引降低内存压力，后续可升级mmap机制。需注意批量写入导致的Segment合并问题，建议错峰或控制单次写入量。特别强调Embedding模型与数据库应分离部署，中文业务需在自有数据集验证召回效果，数据敏感时选择BGE/Qwen本地部署方案。运维复杂度、数据增长性、现有生态兼容性是选型核心维度，模型训练与数据库存储需独立实施并依据具体业务场景权衡技术方案。]]>/archives/rag-vector-dbLTTRAGThu, 10 Sep 2026 07:16:52 GMThttps://lautung.com/archives/rag-knowledge-update动态文档更新需规避写入失败导致的结构丢失风险，推荐三种策略：1）先删后增（需预先备份旧向量，插入失败立即回写）适用于大改或结构重组；2）先增后删（新数据就绪后替换旧文档，允许短期双倍存储）适合需持续检索的服务；3）软删除加版本号（新数据激活后释放旧资源，定时物理清理）稳定性最优，支持实时恢复。核心原则是文档ID必须稳定，二级ID需关联文档且采用增序/哈希组合。变更感知可通过定时轮询或事件驱动（如对象存储 notify、Git webhook）实现实时同步，Milvus等工具底层采用“标记旧数据-完成新索引-统一回收”机制避免读写冲突。全量重建仅限事故回退，日常维护推荐灰度切换（先切部分流量验证新版本）。最终收益是平衡数据一致性、检索连续性与服务稳定性，规模较大时建议采用软删除+版本号的混合结构，在突发写入失败时可借助备份快速回滚恢复业务连续性而无感知延迟。]]>/archives/rag-knowledge-updateLTTRAGThu, 10 Sep 2026 07:16:52 GMThttps://lautung.com/archives/rag-evaluation核心要点包括：系统应该同时优化检索层（Hit@K、MRR、上下文准确率）和生成层（答案忠实度、相关性），离线测试需人工标注问答集建立基准，Ragas可验证模型迭代后的忠实度变化，Hit@K下降应优先排查分块策略或多路召回配置。线上通过踩率、追问率等6项指标验证效果，形成"离线设计→上线观测→复现测试→再优化"的闭环。测试工具选择需配套定义指标，避免经验主观性。最终效果体现在提升用户问题解决效率与降低人工介入频率，关键收益是建立可复现的量化评估体系以减少无效调试成本。]]>/archives/rag-evaluationLTTRAGThu, 10 Sep 2026 07:16:51 GMThttps://lautung.com/archives/rag-retrieval多路检索技术提升问答系统准确率，通过稀疏（BM25）与稠密多路召回结合避免模型偏差，实现跨数据源召回覆盖。核心流程包含：1）query rewrite对问题补全同义词与拆解子问题，修正失误需原查询兜底；2）多路召回取TopN后经RRF（加权融合）消除单一索引评分局限；3）rerank用编码器对问题-文档对优化排序，低于阈值直接拒答；4）MMR算法控制相关性 redundence，防止Output near-duplicate。辅助手段包括预生成QA对拓展语义入口，利用元数据和图谱过滤制度版本与租户信息。这种方法优先通过检索层过滤无效数据降低生成模型负荷，相比单纯扩围大模型显著提升效率，使正确答案无需计算复杂度即可触达。]]>/archives/rag-retrievalLTTRAGThu, 10 Sep 2026 07:16:50 GMThttps://lautung.com/archives/rag-chunking分块策略需平衡片段颗粒度与信息完整性：避免纯固定长度划分，应采用overlap机制防止边缘内容缺失。常用策略包括按句/字符切分（适合制度类文档）、结构化提取（标题/列表/代码函数）、主题/命题分块（长叙事文本需增加模型调用成本）、父子块联动（检索子块返回父块）、晚阶段分块（先编码全文后再切分）等。部署时需重点控制三要素：overlap比例从10%-20%逐步测试，通过 Hit@K 监控边缘切割问题；代码 extraction单独采用函数切分模式，表格数据独立通道处理；结合Prompt Caching技术摊薄Contextual Retrieval成本，否则语义分块会把调用费用打爆。这些策略可提升问答场景的准确率（减少40%以上的信息断层），降低30%的模型调用开销，同时优化用户体验与内容完整性。]]>/archives/rag-chunkingLTTRAGThu, 10 Sep 2026 07:16:49 GMThttps://lautung.com/archives/rag-hallucinationAI生成内容可能存在两类核心幻觉：一是检索无法回传有效内容时，模型通过参数记忆自主编创；二是检索到相关资料但未严格遵守要求，在原文基础上添加主观推断。针对上述问题，需构建四道审核机制：(1)在Prompt中明确约束回答必须严格基于当前提供的资料，未找到依据则直接拒绝回答；(2)对检索结果采取筛选机制，Rerank得分低于设定阈值的低质量上下文直接阻断生成；(3)生成后强制核查关键指令声明，确保能通过分割的文档块精准定位来源碎片；(4)要求输出时强制标注结论条款编号，系统自动按编号匹配原始资料，不匹配的结论直接剔除。评估需同步检验递归指标，离线阶段重点观察回答忠实度与拒答率，在线阶段监测空回答率、用户追问频次及转人工咨询量。生成优化技术（如变更解码器架构或批处理链式思维）须在检索质量稳定达标后方可实施。]]>/archives/rag-hallucinationLTTRAGThu, 10 Sep 2026 07:16:48 GMThttps://lautung.com/archives/rag-overviewRAG通过Query预处理、向量检索、多路召回、Rerank精排、Prompt拼装及带引用生成六阶段解决模型未阅读文档问题。入库流程需实现文档切片、向量化、索引存储，提问流程需完成查询改写、多路召回、重排序、上下文拼接及生成溯源。核心观点包括：部署应先规划链路再选框架，平台化了可用RAGFlow等系统，自研需强化解析/权限/召回能力；评估需拆解检索层（调分块/召回参数）和生成层（调Prompt/拒答/引用核验）；动态更新需建立文档ID/ChunkID机制并确保存储策略，否则知识库一周后失效。读者将获得部署决策标准、分层评估方法及运维要点。]]>/archives/rag-overviewLTTRAGThu, 10 Sep 2026 07:16:47 GMThttps://lautung.com/archives/rag-agent-series-toc文章从RAG与Agent架构的协同关系切入，系统拆解两大工程：RAG工程涵盖知识存储（文档切分技术、向量数据库选型）、检索优化（多路召回与MMR机制）、幻觉抑制（拒答机制与引用核查）和闭环验收方法论；Agent工程则聚焦执行流程（沙箱隔离、权限管控）、上下文管理（窗口策略与衰减机制）以及执行监控（取消指令与轨迹回溯）。编排框架提出分层解决方案：LangChain构建基础组件，LangGraph处理复杂交互，CrewAI实现角色化多Agent协作。选型建议强调平台优先级（是否需自定义解析模块）、数据安全边界（系统级沙箱与工具白名单机制）以及成本管控（网关层统一管理多模型密钥与计费）。读者可依据业务场景三大问题明确技术实现路径，优先选择成熟平台架构，并通过沙箱隔离与权限分级保障系统安全。]]>/archives/rag-agent-series-tocLTTRAGThu, 10 Sep 2026 07:00:54 GMThttps://lautung.com/archives/ragflow%E6%98%AF%E4%BB%80%E4%B9%88%EF%BC%9F%E4%B8%80%E7%AF%87%E7%9C%8B%E6%87%82%E5%AE%83%E5%9C%A8rag%E7%B3%BB%E7%BB%9F%E9%87%8C%E7%9A%84%E4%BD%8D%E7%BD%AERAGFlow 是集成文档解析、分块、嵌入、索引与检索的一站式平台，而非普通开发框架。其核心价值在于将传统需自行组装的RAG全链路（PDF/Word解析、智能分块、混合检索、 rerank排序）封装为可部署服务，支持通过API与现有系统对接。相较于Spring AI、LangChain等强调模块化的开发工具，RAGFlow更注重生产环境中的完整闭环，涵盖从原始文档标准化处理到生成式AI调用的全流程，降低企业自研门槛。对于缺少RAG工程经验的团队可作为知识库快速上线，对具备调优能力的公司则可作为底层架构参考，完整保留元数据管理、多格式支持、自动更新索引等工业级能力，但固定平台模型可能受限深定制需求。其开源设计既可作为PoC验证方案，也可供企业二次开发适配私有云环境，关键在于评估是否需要掌握从文档解析策略到检索排序的全流程工程细节。]]>/archives/ragflow%E6%98%AF%E4%BB%80%E4%B9%88%EF%BC%9F%E4%B8%80%E7%AF%87%E7%9C%8B%E6%87%82%E5%AE%83%E5%9C%A8rag%E7%B3%BB%E7%BB%9F%E9%87%8C%E7%9A%84%E4%BD%8D%E7%BD%AELTTRAGFri, 14 Aug 2026 07:16:52 GMThttps://lautung.com/archives/ecY0yjLcRAG 通过三个核心模型实现精准问答：Embedding 模型将文本转换为语义向量，快速从知识库筛选候选资料；Rerank 模型基于用户问题与候选文档重新排序，提升召回准确性；LLM 大模型结合排序后的资料生成自然语言答案。相较于传统大模型，RAG 机制有效解决知识时效性不足和私有资料缺失问题，通过实时关联资料降低幻觉风险。其流程包含文档入库（收集、切片、向量化、存储）和用户提问（向量检索、重排序、答案生成）两个阶段。应用场景包括企业知识库、法律/医疗文档问答及技术文档检索，尤其在大型复杂知识库中，Rerank 模型能显著优化排序结果。核心价值在于确保大模型基于准确、时效的内部资料输出答案，而非依赖训练时见过的公开数据，可提升问题解决的专业性和可靠性（字数：217）。]]>/archives/ecY0yjLcLTTRAGThu, 2 Jul 2026 16:17:03 GMT