课程简介
《企业级大模型 + RAG + Agent 落地应用实战》是一门面向企业真实业务场景的系统化 AI 实战课程，聚焦大模型在企业落地过程中普遍存在的“难部署、难评测、难稳定、难规模化”等核心问题，围绕企业级大模型应用、RAG（检索增强生成）与 Agent（智能体）三大关键能力，构建从战略认知、技术原理到工程实现与行业落地的完整实践路径。课程以“可上线、可维护、可持续优化”为核心目标，通过真实项目拆解与工程级方法论，帮助企业将大模型从零散工具升级为可驱动业务流程、支撑组织效率与决策能力的智能化基础设施，真正实现 AI 在企业中的长期价值落地。
目标收益
1.企业级大模型应用模式与部署实战：系统拆解企业大模型三大主流落地模式，深入对比私有化与云端部署方案，结合 GPU/CPU 算力选型与真实业务场景，帮助企业做出可落地、可持续的技术决策。
2.RAG 原理、工程实现与评测驱动优化：从 Embedding、向量数据库、检索召回到生成优化，完整讲解企业级 RAG 的设计方法，并引入 Ragas、TruLens 等评测体系，构建“可量化、可回归、可持续优化”的 RAG 工程闭环。
3.智能体（Agent）工程化与自动化流程设计：深入讲解 Agent 的核心能力体系，包括工具调用、意图识别、工作流编排、自主规划、多智能体协作与记忆系统设计，帮助学员构建稳定、可控、可扩展的企业级智能体系统。
4.从 Workflow 到 Agent 的业务自动化升级路径：通过 Pipeline、Branching、Parallel、MoA、HITL 等多种工作流架构模式，讲解如何逐步从固定流程自动化，演进到具备自主决策能力的 Agent 系统，真正释放 AI 的业务价值。
5.行业真实项目与低代码智能体实战：覆盖金融、保险、客服、设计、法务、办公自动化等多个行业场景，通过真实案例与低代码智能体实战，帮助学员将所学能力快速转化为企业可用的 AI 应用与产品。
培训对象
课程大纲
|
阶段一：企业大模型应用和实战技能 |
模块一：企业级大模型实施部署 1.大模型的能力边界及3大误解 2.企业级大模型三种主流落地模式对比 3.私有化部署与云端部署对比 ￮私有化部署的优势与挑战 ￮云端部署的便捷性与弹性 ￮如何根据企业规模、需求与预算选择部署方式 4.GPU 与 CPU 服务器对比 ￮GPU 与 CPU 的核心架构差异 ￮大模型推理/训练的算力需求 ￮GPU 在大模型任务中相较 CPU 的优势 ￮GPU 选型参考（3090/4090/A10/A100/H100） ￮企业如何根据场景选择算力方案 5.部署方案选择与服务器配置 ￮部署方案设计原则 ￮服务器配置要点（硬件、容器化、弹性伸缩） ￮模型性能优化策略（内存/算力分配） 6.大模型私有化部署模型选型 ￮DeepSeek 私有化部署方案 ￮与 Qwen / Llama 系列的对比 ￮与 Azure OpenAI（GPT）私有域部署的对比 ￮私有化模型选型方法（基于数据敏感性、预算、业务场景） ￮对应模型的硬件需求与部署方式 7.私有化部署的三种fan 模块二：企业级大模型四种应用方式实战 •API接入：如何通过API实现大模型应用集成，API的使用场景和最佳实践。 •RAG（Retrieval-Augmented Generation）技术解析：RAG在大模型中的核心应用，如何结合外部数据源提升模型生成能力。 •预训练与微调： ￮预训练模型的核心概念与使用场景。 ￮微调（Fine-tuning）技术的深度理解与企业级应用。 ￮如何选择预训练或微调模型，考虑到数据敏感性与业务需求。 •Workflow（工作流自动化）： ￮企业级大模型与自动化工作流结合的方式。 ￮从数据输入到模型输出的全链路设计。 ￮关键技术点：数据传输、模型调用、反馈机制。 模块三：企业级大模型战略指导与行业方案 1.企业级大模型战略指导： ￮企业AI大模型成熟度自评与阅读导航 ￮企业大模型落地应用挑战与分析 ￮企业级大模型落地的经典方法论 ￮企业级大模型六个标准化实施方法 ￮企业级大模型三大重要支撑体系 ￮关键成功要素与常见失败陷阱 ￮组织变革与AI文化建设 2.企业级大模型行业方案： ￮企业级大模型应用蓝图 ￮大模型行业应用现状 ￮中国大模型金融行业方案解读 ￮中国大模型零售电商行业方案解读 ￮中国大模型汽车行业方案解读 ￮中国大模型教育行业方案解读 |
| 阶段二：RAG 工程项目拆解和真实项目开发实战 |
模块一：RAG（Retrieval-Augmented Generation）原理解析 1.Embedding和向量数据库 ￮什么是Embedding与embedding模型 ￮什么是向量数据库与常见的向量数据库 ￮向量数据库与传统数据库的对比 2.RAG基础概念与工作原理 ￮什么是RAG，如何通过结合外部知识库进行推理增强？ ￮RAG的工作流程：信息检索与生成模块结合。 ￮为什么RAG是解决大模型在专业领域应用问题的关键技术？ ￮RAG与传统生成模型的区别与优势。 ￮企业级RAG落地技术方案与选型 3.知识库搭建和知识萃取 ￮知识库搭建“四步法” ￮Step 1：目标需求梳理（决定方向与评估标准） ￮知识库典型场景（企业 vs 个人） ￮Step 2：知识结构化处理（搭建结构 + 整理数据） ￮没数据 / 有问答 / 有大量文档：三种起点怎么做 ￮企业知识萃取：为什么难 + 怎么推动 ￮知识萃取方法：STAR模型把经验“问出来” ￮萃取“提问清单”+ 常见挑战应对 ￮Step 3：测试与评估（用bad case驱动优化） ￮Step 4：知识库的持续维护 模块二：RAG应用开发与实战落地 1.RAG企业级应用开发 ￮评估RAG应用表现：从答疑机器人常见问题到检索结果排查方法 ￮建立RAG自动化评测体系：Ragas、TruLens、DeepEval与自定义评测框架选型 ￮使用Ragas评估端到端质量：回答质量评估、检索召回效果评估与关键指标拓展 ￮基于Ragas指标进行优化：以“上下文”为核心的context recall、context precision、answer correctness优化路径 ￮评测运营体系搭建：测试集建设、回归测试、版本对比与持续迭代机制 ￮初步优化检索效果：让模型拿到更多参考信息，以及更清晰结构化的参考信息 ￮熟悉RAG全流程：从文档进入到生成答案的关键链路与故障点定位 ￮文档准备与解析切片优化：问题分类、PDF解析、多切片方法（Token/句子/窗口/语义/Markdown） ￮向量化与存储策略：Embedding理解与选型、向量数据库选型（内存/本地/云服务） ￮检索召回增强策略：问题改写（扩充/多步骤/HyDE）、标签提取增强、重排序（Rerank） ￮生成答案阶段优化：提示结构、引用对齐、降低幻觉与可解释性输出 ￮实战案例：RAG从0到1搭建 → 自动化评测 → 定位瓶颈 → 针对性优化 → 上线复盘闭环 2.RAG企业级应用案例解析 ￮案例一：知识引擎搭建企业行政问答小助手 ￮案例二：知识引擎辅助机构业务员做专业知识问题和查询 ￮案例三：知识引擎在保险经纪人消息质检场景提效 ￮案例四：知识引擎工作流能力高效生财保险建议书 ￮案例五：金融舆情摘要与生成 ￮案例六：投顾服务 ￮案例七：投研服务 案例七：大模型辅助车险评残业务应用 |
| 阶段三：智能体应用开发和Agent |
模块一：AI智能体与企业自动化流程 •什么是智能体？与大模型本质区别？ •智能体有哪些玩法方向和红利价值 •市场热门智能体平台应用场景解读 •企业智能体应用场景及应用蓝图架构 •智能体十大应用排行榜 •智能体功能架构及核心布局：控制方式、应用渠道、功能结构 •智能体解决了什么问题？智能体的四个关键点！ 模块二：企业级智能体 Agent 开发应用实战 •智能体核心能力全景：工具使用、反思纠错、工作流编排与自主规划 •工具调用工程化落地：从硬编码工具到函数调用（Function Calling）与ReAct（思考-行动-观察） •意图识别与路由：从脆弱关键词匹配到基于大模型的意图分类与策略选择 •结构化输出与可靠性闭环：为什么需要结构化、以及“引导-校验-重试”工程机制 •工具规模化管理：MCP协议（Model Context Protocol）的解耦思想与远程工具服务接入实践 •智能体反思体系：自我反馈（Self Review）与外部反馈（External Feedback）两种模式及适用边界 •结果验证与防幻觉：用工具校验、规则校验与多重验证策略降低错误 •工作流架构设计：Pipeline / Branching / Parallel / MoA / HITL五种模式的代码实现思路 •失败原因分析：遗忘效应、错误级联、扁平化理解导致的失效与应对 •从固定流程到自主规划：任务规划生成、执行规划、以及在工程边界内“让Agent创建新工具” •多智能体协作：分层规划（Team Leader）与共创黑板（Blackboard）两种协作模式实现 •记忆系统工程：短期记忆、信息精炼、滚动摘要与向量化召回的记忆管理策略 •评测驱动开发（EDD）：端到端评测与白盒评测结合，指标化迭代智能体能力 模块三：企业级低代码智能体Agent应用实战 1.企业管理智能体实战 ￮六顶思考帽专家 × 顶级商业咨询专家 ￮人设IP打造专家 × 品牌故事创作大师 ￮马云梦想引擎 × 马斯克战略顾问 ￮罗翔法治之光 × 金枪大叔文案顾问 ￮丁宁产品顾问 × 巴菲特价值引擎 ￮乔布斯产品思维架构师 2.自动化办公智能体实战 ￮PPT一键生成智能体 ￮文章转思维导图智能体 ￮全能办公助手智能体 ￮精美知识卡片智能体 ￮多维表格存储书签 ￮邮箱与任务流智能自动化 3.行业落地智能体实战 ￮新闻：信息采集与分析工作流 ￮设计：装修设计辅助智能体 ￮财务：发票整理与归档自动化 ￮客服：7×24小时智能回复与客户洞察 ￮程序员：Cursor × Coze 构建浏览器插件 ￮法务：合同信息审阅与风险识别 ￮分析师：数据分析与业务逻辑可视化 |
|
阶段一：企业大模型应用和实战技能 模块一：企业级大模型实施部署 1.大模型的能力边界及3大误解 2.企业级大模型三种主流落地模式对比 3.私有化部署与云端部署对比 ￮私有化部署的优势与挑战 ￮云端部署的便捷性与弹性 ￮如何根据企业规模、需求与预算选择部署方式 4.GPU 与 CPU 服务器对比 ￮GPU 与 CPU 的核心架构差异 ￮大模型推理/训练的算力需求 ￮GPU 在大模型任务中相较 CPU 的优势 ￮GPU 选型参考（3090/4090/A10/A100/H100） ￮企业如何根据场景选择算力方案 5.部署方案选择与服务器配置 ￮部署方案设计原则 ￮服务器配置要点（硬件、容器化、弹性伸缩） ￮模型性能优化策略（内存/算力分配） 6.大模型私有化部署模型选型 ￮DeepSeek 私有化部署方案 ￮与 Qwen / Llama 系列的对比 ￮与 Azure OpenAI（GPT）私有域部署的对比 ￮私有化模型选型方法（基于数据敏感性、预算、业务场景） ￮对应模型的硬件需求与部署方式 7.私有化部署的三种fan 模块二：企业级大模型四种应用方式实战 •API接入：如何通过API实现大模型应用集成，API的使用场景和最佳实践。 •RAG（Retrieval-Augmented Generation）技术解析：RAG在大模型中的核心应用，如何结合外部数据源提升模型生成能力。 •预训练与微调： ￮预训练模型的核心概念与使用场景。 ￮微调（Fine-tuning）技术的深度理解与企业级应用。 ￮如何选择预训练或微调模型，考虑到数据敏感性与业务需求。 •Workflow（工作流自动化）： ￮企业级大模型与自动化工作流结合的方式。 ￮从数据输入到模型输出的全链路设计。 ￮关键技术点：数据传输、模型调用、反馈机制。 模块三：企业级大模型战略指导与行业方案 1.企业级大模型战略指导： ￮企业AI大模型成熟度自评与阅读导航 ￮企业大模型落地应用挑战与分析 ￮企业级大模型落地的经典方法论 ￮企业级大模型六个标准化实施方法 ￮企业级大模型三大重要支撑体系 ￮关键成功要素与常见失败陷阱 ￮组织变革与AI文化建设 2.企业级大模型行业方案： ￮企业级大模型应用蓝图 ￮大模型行业应用现状 ￮中国大模型金融行业方案解读 ￮中国大模型零售电商行业方案解读 ￮中国大模型汽车行业方案解读 ￮中国大模型教育行业方案解读 |
|
阶段二：RAG 工程项目拆解和真实项目开发实战 模块一：RAG（Retrieval-Augmented Generation）原理解析 1.Embedding和向量数据库 ￮什么是Embedding与embedding模型 ￮什么是向量数据库与常见的向量数据库 ￮向量数据库与传统数据库的对比 2.RAG基础概念与工作原理 ￮什么是RAG，如何通过结合外部知识库进行推理增强？ ￮RAG的工作流程：信息检索与生成模块结合。 ￮为什么RAG是解决大模型在专业领域应用问题的关键技术？ ￮RAG与传统生成模型的区别与优势。 ￮企业级RAG落地技术方案与选型 3.知识库搭建和知识萃取 ￮知识库搭建“四步法” ￮Step 1：目标需求梳理（决定方向与评估标准） ￮知识库典型场景（企业 vs 个人） ￮Step 2：知识结构化处理（搭建结构 + 整理数据） ￮没数据 / 有问答 / 有大量文档：三种起点怎么做 ￮企业知识萃取：为什么难 + 怎么推动 ￮知识萃取方法：STAR模型把经验“问出来” ￮萃取“提问清单”+ 常见挑战应对 ￮Step 3：测试与评估（用bad case驱动优化） ￮Step 4：知识库的持续维护 模块二：RAG应用开发与实战落地 1.RAG企业级应用开发 ￮评估RAG应用表现：从答疑机器人常见问题到检索结果排查方法 ￮建立RAG自动化评测体系：Ragas、TruLens、DeepEval与自定义评测框架选型 ￮使用Ragas评估端到端质量：回答质量评估、检索召回效果评估与关键指标拓展 ￮基于Ragas指标进行优化：以“上下文”为核心的context recall、context precision、answer correctness优化路径 ￮评测运营体系搭建：测试集建设、回归测试、版本对比与持续迭代机制 ￮初步优化检索效果：让模型拿到更多参考信息，以及更清晰结构化的参考信息 ￮熟悉RAG全流程：从文档进入到生成答案的关键链路与故障点定位 ￮文档准备与解析切片优化：问题分类、PDF解析、多切片方法（Token/句子/窗口/语义/Markdown） ￮向量化与存储策略：Embedding理解与选型、向量数据库选型（内存/本地/云服务） ￮检索召回增强策略：问题改写（扩充/多步骤/HyDE）、标签提取增强、重排序（Rerank） ￮生成答案阶段优化：提示结构、引用对齐、降低幻觉与可解释性输出 ￮实战案例：RAG从0到1搭建 → 自动化评测 → 定位瓶颈 → 针对性优化 → 上线复盘闭环 2.RAG企业级应用案例解析 ￮案例一：知识引擎搭建企业行政问答小助手 ￮案例二：知识引擎辅助机构业务员做专业知识问题和查询 ￮案例三：知识引擎在保险经纪人消息质检场景提效 ￮案例四：知识引擎工作流能力高效生财保险建议书 ￮案例五：金融舆情摘要与生成 ￮案例六：投顾服务 ￮案例七：投研服务 案例七：大模型辅助车险评残业务应用 |
|
阶段三：智能体应用开发和Agent 模块一：AI智能体与企业自动化流程 •什么是智能体？与大模型本质区别？ •智能体有哪些玩法方向和红利价值 •市场热门智能体平台应用场景解读 •企业智能体应用场景及应用蓝图架构 •智能体十大应用排行榜 •智能体功能架构及核心布局：控制方式、应用渠道、功能结构 •智能体解决了什么问题？智能体的四个关键点！ 模块二：企业级智能体 Agent 开发应用实战 •智能体核心能力全景：工具使用、反思纠错、工作流编排与自主规划 •工具调用工程化落地：从硬编码工具到函数调用（Function Calling）与ReAct（思考-行动-观察） •意图识别与路由：从脆弱关键词匹配到基于大模型的意图分类与策略选择 •结构化输出与可靠性闭环：为什么需要结构化、以及“引导-校验-重试”工程机制 •工具规模化管理：MCP协议（Model Context Protocol）的解耦思想与远程工具服务接入实践 •智能体反思体系：自我反馈（Self Review）与外部反馈（External Feedback）两种模式及适用边界 •结果验证与防幻觉：用工具校验、规则校验与多重验证策略降低错误 •工作流架构设计：Pipeline / Branching / Parallel / MoA / HITL五种模式的代码实现思路 •失败原因分析：遗忘效应、错误级联、扁平化理解导致的失效与应对 •从固定流程到自主规划：任务规划生成、执行规划、以及在工程边界内“让Agent创建新工具” •多智能体协作：分层规划（Team Leader）与共创黑板（Blackboard）两种协作模式实现 •记忆系统工程：短期记忆、信息精炼、滚动摘要与向量化召回的记忆管理策略 •评测驱动开发（EDD）：端到端评测与白盒评测结合，指标化迭代智能体能力 模块三：企业级低代码智能体Agent应用实战 1.企业管理智能体实战 ￮六顶思考帽专家 × 顶级商业咨询专家 ￮人设IP打造专家 × 品牌故事创作大师 ￮马云梦想引擎 × 马斯克战略顾问 ￮罗翔法治之光 × 金枪大叔文案顾问 ￮丁宁产品顾问 × 巴菲特价值引擎 ￮乔布斯产品思维架构师 2.自动化办公智能体实战 ￮PPT一键生成智能体 ￮文章转思维导图智能体 ￮全能办公助手智能体 ￮精美知识卡片智能体 ￮多维表格存储书签 ￮邮箱与任务流智能自动化 3.行业落地智能体实战 ￮新闻：信息采集与分析工作流 ￮设计：装修设计辅助智能体 ￮财务：发票整理与归档自动化 ￮客服：7×24小时智能回复与客户洞察 ￮程序员：Cursor × Coze 构建浏览器插件 ￮法务：合同信息审阅与风险识别 ￮分析师：数据分析与业务逻辑可视化 |
近期公开课推荐
