第11周：AI场景化应用（一）

本日概要

一个对话产品由四部分组成：提示（定义角色、能力边界与输出规范）、记忆（决定哪些历史进入本轮上下文）、工具（让模型能获取信息或执行动作）、以及安全策略（拒答边界与兜底话术）。其中记忆最容易被低估——上下文窗口有限，把全部历史原样塞进去很快会超限，还会稀释当前问题的权重。常见做法是保留最近若干轮原文、把更早的内容摘要压缩、并单独维护一份结构化的用户档案。设计时必须明确：哪些信息进入每一轮、哪些只在需要时检索、哪些永远不进入上下文。

学习目标

• 能拆解一个对话产品的四个组成部分，并说明各自的职责边界
• 能设计分层记忆策略，明确每层信息何时进入上下文
• 能估算多轮对话的上下文增长，并给出超限时的处理方式
• 能定义拒答边界与兜底话术，并说明它们为什么必须是系统能力而非提示措辞

核心讲解

实践任务

为一个对话场景设计四要素方案，并用一段超过窗口的长对话验证记忆策略的实际表现。

• 为一个具体对话场景写出四要素方案：提示的角色与输出规范、记忆分层策略、可用工具清单、拒答边界与兜底话术。
• 制作上下文注入规则表：逐项列出每轮固定注入、按需检索、永不注入三类内容。
• 构造一段不少于二十轮的对话，记录上下文占用的增长曲线，观察触及上限时的实际表现。
• 实现摘要压缩策略后重跑同一段对话，对比占用曲线与回答连贯性；再构造三个越界提问，验证系统级限制是否生效。

自测与答案

今日完成标准

• 提交四要素方案与上下文注入规则表，三类内容划分清晰
• 提交长对话的上下文占用曲线与摘要压缩前后的对比
• 提交三个越界提问的系统行为记录，说明限制生效在哪一层

常见错误与纠正提示

• 把全部历史原样注入，多轮后触及窗口上限且回答质量下降
• 把能力边界完全写在提示里，被绕过后无任何系统层兜底
• 无法回答或工具失败时让模型自由发挥，产生编造内容

分层任务

关联知识点

• AI Agent
• 提示工程
• 机器学习基础

延伸阅读

• Context windows（Anthropic 官方文档）
• Prompt engineering overview（Anthropic 官方文档）

本日概要

企业知识库问答与开放问答的关键差别在于权限。同一个问题，不同岗位的人应当看到不同答案，甚至应当被告知「无此权限」而不是被泛泛回避。这要求权限过滤发生在检索阶段而不是生成阶段——如果无权限的片段已经进入上下文，就已经构成泄漏，无论最终回答是否提及它。此外，企业文档有明确的版本与失效问题：制度会作废、流程会更新，回答必须能指出所依据文档的版本与生效日期。把「答案可追溯到具体文档的具体版本」作为硬性要求，是企业场景与消费场景最大的不同。

学习目标

• 能说明权限过滤必须发生在检索阶段的原因
• 能设计文档的权限标注与用户角色映射方案
• 能处理文档版本与失效：回答中标注版本与生效日期，作废文档不参与检索
• 能设计企业场景的评估集，覆盖权限边界与版本正确性

核心讲解

实践任务

搭建一个带权限过滤与版本标注的知识库问答原型，验证不同角色的检索结果差异与失效文档的处理。

• 准备一批带权限标注与版本信息的文档，至少覆盖三个权限级别与两组存在新旧版本的文档。
• 实现检索阶段的权限过滤，用两个不同角色的账号提同一个问题，记录召回片段与最终回答的差异。
• 实现版本过滤：默认只召回现行有效版本，验证作废文档不进入上下文；再构造一次明确的历史查询请求验证例外路径。
• 构造包含新旧版本冲突的检索结果，验证系统是否明确指出冲突；编写覆盖权限边界与版本正确性的评估集并跑一轮。

自测与答案

今日完成标准

• 提交两个角色对同一问题的召回片段与回答差异记录，证明过滤发生在检索阶段
• 提交作废文档不进入上下文的验证与历史查询例外路径的验证
• 提交版本冲突的处理记录与覆盖权限、版本的评估集结果

常见错误与纠正提示

• 在生成阶段做权限判断，无权限内容已经进入上下文与日志
• 入库时不记录版本与失效日期，回答依据已作废的制度
• 多版本冲突时由模型自行挑选一版作答，使用者无从察觉

分层任务

关联知识点

• RAG检索增强生成
• AI Agent
• 数据治理

延伸阅读

• Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks（arXiv 论文页面）
• OWASP Top 10 for LLM Applications（OWASP GenAI 官方页面）
• Chroma Documentation: Introduction（Chroma 官方文档）

本日概要

编程助手的效果高度依赖上下文：它需要知道项目结构、相关文件内容、依赖版本与团队约定，才能给出可用的建议。与聊天式使用相比，命令行形态的助手可以直接读取仓库、运行命令并查看结果，因而能基于真实反馈迭代而不是凭猜测生成。这也带来责任：它能修改文件、执行命令，因此权限边界与变更可见性至关重要——每一次改动都应当以可审查的形式呈现，重要操作需要确认。使用上的关键纪律是：生成的代码必须被审查与测试，把「能跑」当作「正确」是最常见的事故来源。

学习目标

• 能说明编程助手的效果为何高度依赖项目上下文，并列出应提供哪些信息
• 能区分建议型与可执行型助手的责任边界差异
• 能为助手的文件修改与命令执行设计审查与确认流程
• 能设计一套接受生成代码的验收标准，包含审查要点与测试要求

核心讲解

实践任务

在一个真实小项目上使用编程助手完成一次改动，记录它读取了哪些上下文、做了哪些修改，并对结果做审查与测试。

• 在一个本人拥有的小项目中，先把团队约定与项目结构写入项目内的说明文件，使助手每次都能读到。
• 提出一个具体改动需求，记录助手读取了哪些文件、执行了哪些命令、做了哪些修改。
• 以差异形式逐处审查改动，标出使用了不存在的接口、缺少错误处理或风格不一致的地方。
• 为改动补充测试并运行；写出本次的验收标准清单，说明哪些项通过、哪些项需要返工。

自测与答案

今日完成标准

• 提交项目说明文件与助手读取的上下文记录
• 提交改动的差异与逐处审查结论，标出至少一处需要修正的地方
• 提交补充的测试与本次验收标准清单及通过情况

常见错误与纠正提示

• 不提供项目上下文，得到通用但不可直接使用的建议
• 把生成代码直接合入，跳过差异审查与边界情况检查
• 赋予助手过宽的文件与命令权限，重要操作无人工确认

分层任务

关联知识点

• AI开发工具链
• AI Agent
• 提示工程
• Claude Code · AI编程助手

延伸阅读

• Claude Code overview（Anthropic 官方文档）
• Tool use with Claude（Anthropic 官方文档）

本日概要

智能客服的设计重点不在于「能答多少」，而在于「答错了怎么办」。一个可上线的方案至少包含五部分：意图识别与分流、知识库问答、人工转接、会话记录与质检、以及效果度量。关键设计原则是分级处理——高频且答案确定的问题走自动回答，涉及金额、账户变更或投诉的一律转人工，模棱两可的先确认再回答。度量上要避免只看「自动解决率」这一个数字，它可以通过让机器人硬答来虚假提升；必须同时看转人工率、二次进线率与用户满意度，才能反映真实效果。

学习目标

• 能按风险与确定性对客服问题分级，并为每级指定处理方式
• 能设计人工转接的触发条件与上下文交接内容
• 能设计一组互相制衡的度量指标，避免单一指标被优化到失真
• 能设计会话质检流程，说明抽样方式与评分标准

核心讲解

实践任务

为一个客服场景设计分级处理策略与度量方案，并用一批真实风格的问题验证分流是否符合预期。

• 整理一批真实风格的客服问题（不少于三十条），按风险与确定性分为三级并说明分级依据。
• 设计每级的处理方式与转接触发条件，写出转接时需要传递的上下文字段清单。
• 设计度量方案：至少包含自动解决率、转人工率、二次进线率与满意度四项，说明它们如何互相制衡。
• 运行分流逻辑，统计各级实际命中情况；对分错的样例做归因，并把典型错误整理为回归测试用例。

自测与答案

今日完成标准

• 提交不少于三十条问题的分级结果与分级依据说明
• 提交转接触发条件、上下文交接字段清单与超时兜底路径
• 提交四项度量指标的定义与实际分流统计，含分错样例的归因与回归用例

常见错误与纠正提示

• 按模型置信度而非风险后果分级，高风险问题被自动回答
• 转接时不传递已有上下文，用户需要重新叙述
• 只考核自动解决率，系统被优化成对不确定问题硬答

分层任务

关联知识点

• AI Agent
• RAG检索增强生成
• 提示工程

延伸阅读

• Prompt engineering overview（Anthropic 官方文档）
• OWASP Top 10 for LLM Applications（OWASP GenAI 官方页面）

本日概要

生成式内容工具进入实际流程时，技术之外的约束往往更关键。技术上要理解生成过程的可控点：文本提示、负向约束、随机种子与迭代步数共同决定输出，固定种子是复现结果的前提。合规上要回答三个问题：训练数据的来源与授权状况如何、生成内容的权利归属与可商用性怎样界定、以及如何避免生成侵犯他人权利或涉及真实人物肖像的内容。工程上则要建立可追溯的记录：每份产出保存提示、种子、模型版本与参数，使任何一张图都能被解释「它是怎么来的」。

学习目标

• 能说明提示、负向约束、种子与步数各自对生成结果的影响
• 能用固定种子验证生成过程的可复现性，并说明哪些因素会破坏复现
• 能列出生成内容在版权与肖像方面的主要风险点
• 能设计生成产出的记录规范，使每份产出可被追溯解释

核心讲解

实践任务

用固定种子生成一组图像验证可复现性，并为团队编写一份包含合规检查项的生成内容使用规范。

• 用同一提示与同一种子生成两次，验证结果是否一致；再改变种子、步数与引导强度各一次，记录变化。
• 故意更换模型版本或库版本重跑同一配置，记录结果是否仍然一致，据此列出复现所需的完整记录项。
• 查阅所用模型的许可条款与使用限制，记录关键条款原文位置与访问日期，并写出对商用的影响结论。
• 编写团队使用规范：产出记录字段、提示禁用词清单、人工审核流程与需要提交法务确认的情形。

自测与答案

今日完成标准

• 提交同种子复现验证与三组参数变化的对比记录
• 提交换版本后的复现结果与完整记录项清单
• 提交许可条款查阅记录（含条款位置与访问日期）与团队使用规范

常见错误与纠正提示

• 只记录提示词不记录种子与版本，产出无法复现
• 把「模型开源」等同于「生成内容可商用」
• 对外发布生成内容不保留生成记录，出现争议时无法举证

分层任务

关联知识点

• Transformer架构
• 深度学习框架
• AI办公
• AI安全与对齐

延伸阅读

• Hugging Face Diffusers Documentation（Hugging Face 官方文档）
• Vision（Anthropic 官方文档）

本日概要

让模型把自然语言转成查询语句，看起来是省事，实际上把「理解业务口径」这个最难的部分暴露了出来。同一句「上个月的销售额」，按下单时间还是支付时间、含不含退款、按哪个币种，结果可以差很多。因此可用的方案不是「给模型一个数据库连接」，而是：提供经过整理的表结构与字段含义、把指标口径固化为可复用的视图或语义层、限制模型只能查询只读副本与允许的表、并在返回结果前做合理性校验。最重要的一条是让生成的查询语句对用户可见——使用者能看到查询，才能判断口径是否符合预期。

学习目标

• 能说明业务口径歧义如何导致同一问题产生不同结果
• 能设计提供给模型的表结构与字段含义说明，包含口径定义
• 能实现只读、限表与超时的执行侧约束，并验证越权查询被拒绝
• 能设计结果合理性校验与查询可见性，使使用者能自行判断口径

核心讲解

实践任务

为一组业务问题实现自然语言到查询的转换，提供表结构与口径说明，并验证只读限制与结果合理性校验。

• 整理三张表的结构说明，为每个字段写出业务含义；为至少两个常用指标写出完整口径定义并固化为视图。
• 实现自然语言到查询的转换，对一组包含口径歧义的问题，验证系统是否先向用户确认而不是默认选择。
• 配置只读副本、表白名单、查询超时与返回行数上限；构造一次写操作与一次越表查询，验证被拒绝并记录。
• 实现结果合理性校验（零行、数值越界、时间范围不符）与查询语句可见性；构造三个触发校验的样例并记录处理结果。

自测与答案

今日完成标准

• 提交三张表的字段含义说明与两个指标的完整口径定义及视图
• 提交口径歧义问题的确认交互记录，以及写操作与越表查询被拒绝的记录
• 提交三个触发合理性校验的样例与处理结果，界面展示包含生成的查询语句

常见错误与纠正提示

• 只提供字段名与类型，不提供业务含义与口径定义
• 把可写连接或全库权限暴露给模型，依赖提示措辞约束
• 界面只展示数字不展示查询，使用者无法核对口径

分层任务

关联知识点

• AI办公
• 数据库
• 大数据平台
• 数据治理

延伸阅读

• Tool use with Claude（Anthropic 官方文档）
• OWASP Top 10 for LLM Applications（OWASP GenAI 官方页面）
• MySQL 8.4 Reference Manual: EXPLAIN Output Format（Oracle MySQL 官方参考手册）

本日概要

本周收尾把六个场景整理成一张可复用的判断矩阵。每个场景都可以用同四个维度描述：错误的代价有多高、答案是否需要可追溯到来源、是否涉及权限与敏感数据、以及是否需要触发外部动作。这四个维度决定了必需的工程配置——代价高就需要人工兜底，需要追溯就必须做引用，涉及权限就必须在检索阶段过滤，触发动作就必须做权限分级与确认。用这张矩阵评估一个新场景，比套用某个具体产品的做法更可靠，因为它直接从约束推出配置。

学习目标

• 能用错误代价、可追溯性、权限敏感度、动作触发四个维度描述任一 AI 应用场景
• 能从四个维度的取值推导出必需的工程配置
• 能识别一个方案中缺失的必需配置并说明后果
• 能把本周六个场景的经验迁移到一个未讲过的新场景

核心讲解

实践任务

为本周六个场景填写四维矩阵，再用同一张矩阵评估一个新场景并推导出它的必需配置。

• 为本周六个场景逐一填写四维矩阵，每个维度给出取值与判断理由。
• 根据取值为每个场景推导必需配置，并对照本周实际做过的实现，找出仍有缺口的项。
• 选一个本周未讲过的新场景（如内部报销审核助手），用同一张矩阵推导其必需配置与明确排除的能力。
• 为新场景编写落地清单与上线验证表：每项配置的负责人、验收标准与验证方式。

自测与答案

今日完成标准

• 提交六个场景的四维矩阵，每维有取值与判断理由
• 提交各场景的必需配置推导与本周实现的缺口清单
• 提交新场景的矩阵、落地清单（含明确排除项）与上线验证表

常见错误与纠正提示

• 照搬其他产品的做法，不检查其约束是否与自己相同
• 落地清单只写要做什么，不写明确排除什么，范围不断扩张
• 把「配置已做」当作「配置已验证」，缺少上线前验证项

分层任务

关联知识点

• AI Agent
• RAG检索增强生成
• AI开发工具链
• AI安全与对齐

延伸阅读

• OWASP Top 10 for LLM Applications（OWASP GenAI 官方页面）
• Prompt engineering overview（Anthropic 官方文档）
• Tool use with Claude（Anthropic 官方文档）