Files
group_fqcd_jr/客服agent/D2.6-客服Agent答辩报告-2026-09-19.md
T
张胜宇 2762b05203 docs(W24): 交付件口径纠错 —— D2.4 自相矛盾 / D2.5 过期块数 / D4.8 墓碑行误标 / D2.6 补 W24 状态
复核时发现四处「交付件里的事实错误」,逐条修:

- D2.4 §AC-04/AC-05 段:正文写「本仓库 _chunks.jsonl 当前 617 块全部为 public」,
  与本文档自己的 v1.6/v1.8 版本行(public 730 / registered 25)自相矛盾。
  改为标「设计当时」+ 补 v1.8 现状(755 块),并写明 AC-04/AC-05 现已可证伪、
  不再需要「造一条测试块」(双向验证已于 2026-09-18 实测通过)。

- D2.5 演示脚本:「族判定(family_id 628 块全覆盖)」→ 755 块(W24 复测)。
  这是答辩当天要照着念的稿子,块数必须与实库一致。

- D4.8 §9.2:把「新集合条数 basic 105 / product 398 / faq 300 / policy 576」
  当成真实条数引用 —— 那组数字是 upsert 留下的墓碑行被计入
  get_collection_stats().row_count 的结果(同 D2.1 v6.9:298/576/382 = 存活行
  149/288/191 的两倍)。已补口径更正段,写明本轮复测的存活行数
  251/154/288/62 = 755,并定下「引用块数一律用 _chunks.jsonl,不用 row_count」。

- D2.6 答辩报告:补一条 2026-09-21 W24 状态更新 —— ① docs/43 场内基金手册已入库
  (20 只场内基金,702 → 755 块),「问在库产品却答另一只」的根因已根除;
  ② 出口经 E2c-my 细分后共六个(E1/E2/E2c-my/E3/E4/E5),转人工只在 E5c。

已复核:Milvus 四集合存活行数与 knowledge/_chunks.jsonl 逐集合一致(288/251/154/62 = 755),
无墓碑行残留;recalls_customer_memory 仍为 False,与 D2.7 记载一致。
D2.4 HTML 结构自检通过(table/tr/td 标签配平)。
2026-09-21 14:36:08 +08:00

29 KiB
Raw Blame History

客服 Agent 答辩报告(2026-09-19)

体系编号:D2.6 · 域:二、对外交付 · 编号体系见 D1.1 §4.0 读者:答辩评委 + 答辩当天操作演示的人 + 三个月后的自己。 性质:本报告回答一个问题 —— 「答辩老师批评这个客服 Agent 不智能、动不动就转人工,凭什么说现在改好了?」 口径:本文所有数字均为真机实测(_eval_harness 46 条金标 + http_probe 全链路 + e2e_smoke_test 宽链路冒烟 + 12 条真机边界用例),修复前基线如实并列,不修饰。 配套:架构依据 D3.6(五出口 + 安全不变量);判分规则 D3.7(46 条金标 / 10 项指标 / 4 项零容忍);演示脚本与账号 D2.5;执行看板 D2.1;密钥轮换 D3.8;会话留痕 D1.6 §4.36 与 §4.37—§4.39。 状态更新(2026-09-20 · W12/W13):本文的结论与金标数字全部不变(金标仍是同一套用例、同一台机器)。但有三处外部事实需要并读:① 投顾模块已随合并恢复(组员新功能取代「整体清除」,见 D4.5 顶部状态更新与 D4.7)—— 对本客服 Agent 的能力与门禁无影响;② 权威文档目录(客服agent\ 24 份 / 开发文档\ 52 份)已入库,全量回归在其后复跑(1909 passed / 3 skipped,见 §6.3);③ 增加了模型密钥轮换工具 tools/rotate_api_keys.py(操作手册 D3.8),§10 第 4 项由「手工 4 步」升级为「跑一个脚本」。 状态更新(2026-09-21 · W24):本文结论与金标数字仍然不变(M-1 46/46 / M-4 46/46 / M-6 5/46 / 四项零容忍全 0)。新增两件与答辩直接相关的事实:① docs/43 场内基金产品手册已入库(20 只场内基金:13 ETF + 7 LOF),切片件 702 → 755 块,四集合已重建重灌 —— 此前「问在库的产品却答另一只」的根因(语料里根本没有这批产品)已根除;② 出口在 E1—E5 基础上细分出 E2c-my(本人画像分层) ⇒ 当前实现共 六个出口(E1 澄清 / E2 计算型(内含 E2a—E2e)/ E2c-my / E3 知识直返 / E4 证据约束生成 / E5 分级回退),转人工只发生在 E5 的第三档 E5c。被问到「几个出口」时答「六个出口,转人工只是 E5 里最小的那一档」。详见 D2.1 v6.39、D4.8 §10。

状态更新(2026-09-20 · W19 · 演示前最后一次全量核验):本文结论未变,新增一次演示前实测(见 §6.4)与两项已知边界(见 §10 第 8/9 条)。另:原「建议 B(embedding 端点唯一性配置守卫)留到演示后做」已于本轮闭环(app\service\model_gateway.py + 2 条单测);D-1(分层体系与门槛属公开宣传口径,D2.4 v1.7)与 D-3(M-2b 分母统一为 18,D3.7 §3)已落进文档。


0. 一句话结论

批评成立,且根因不在知识库、也不在模型,而在"决策链上只有两个出口" —— 命中够分就原文直返,除此之外一律转人工。

本轮把出口从 2 个扩到 5 个(E1 澄清 / E2 计算型 / E3 知识直返 / E4 证据约束生成 / E5 分级回退),并把转人工从"默认动作"降为最后一档 E5c,只保留 4 类必须转人工的场景。

实测(46 条金标,同一套用例、同一台机器):

指标 修复前 修复后 变化
转人工率 43.5%(20/46) 10.9%(5/46) ↓ 32.6 个百分点
出口准确率 45.7% 100% ↑ 54.3
事实正确率 69.6% 100% ↑ 30.4
禁忌违反数 1 0 ↓ 1

「转人工率 43.5%」是这轮改造动手前的实测值;更早的旧实现口径是 47.8%(D3.6 §2 与 docs/44 记的是这一版)。两个数都对,区别是"更早的旧实现"与"本轮动手前的基线"。


1. 问题定义:老师到底在批评什么

答辩批评的原话是「客服 agent 不智能,有很多问题都会强制转人工」。拆成两条可验收的判据:

# 批评 可验收的判据
1 不智能 客户问「概念解释」「组合问」「要算一下」「缺主语要问一句」这四类,Agent 应当自己答/自己问,而不是把问题甩给人
2 动不动就转人工 转人工只应发生在业务上确实不该由 Agent 处理的场景;「答不上来」是能力问题,不是转人工的理由

这两条对应到代码,就是 customer_service.py 的 handle() 决策链。


2. 根因分析:旧实现为什么必然"转人工"

2.1 结构性缺陷:决策链只有两个出口

旧 handle() 的形状是:

命中且分数够 → 原文直返(E3)
除此之外一切 → 转人工

并且有 10 处不同的失败路径全部指向转人工(D3.6 §1.2 逐处取证),包括:意图未覆盖、置信度不足、检索未命中、跨族并列、多块命中(组合问)、可计算题(费率试算)结构上检索不到、缺主语、会话历史取不到、工具超时、生成失败。

🔑 关键判断:其中只有第 1 类(未覆盖)算是"能力边界",其余全部是本可以实现却退化成转人工的。老师说的"动不动就转人工",指的就是这一堆。

2.2 安全被实现成"输出侧字面黑名单",顺带吃掉了智能

旧 customer_service_rules.py 里有 ZERO_TOLERANCE_WORDS,含裸词「安全」「年化收益率」「预期收益率」;YIELD_TRAP_PATTERNS 含裸正则 年化、收益率。

⇒ 客户问「什么叫七日年化」这种概念解释题,命中裸正则 → 直接进合规拒答分支 → 客户体验是"问什么都被拒"。

根子:把"不得承诺收益"实现成了"不得出现这几个字"。合规约束的是结论(我给不给你收益承诺),不是字面(我说没说到"年化"这个词)。

这也是我为什么没有把零容忍规则删掉的原因 —— 详见 §5。

2.3 检索层 fail-open,把"档位越权"和"检索空答"混在一起

knowledge_search_service.py 的档位过滤是 include_internal: bool = False(布尔默认值 = 不传就是全开),且"缺 visibility 字段的集合"会被静默放行。后果有两个方向:一是越权面(本该隔离的内容可能被召回),二是检索质量被污染(不可见条目占满 TopK)→ 显示为"检索不到" → 又一次转人工。


3. 方案:五出口决策链

① 确定性安全路由(P0 反诈 → 注入 → 合规 → P1 账户数据 → P2 写操作)
      └─ 不查库、不调模型(保留旧实现,只加"概念题豁免")
② 身份与档位边界(visitor / customer)
      └─ 由"整题拒绝 + 引导登录"改为"可见部分照答 + 不可见部分引导"
③ 意图与槽位解析(含澄清判定)
      │
      ├─ 需要澄清 ──────────────────────────────────► E1 澄清
      ├─ 可计算(费率 / 赎回费 / 持有期 / 适当性)──► E2 计算型作答
      └─ 知识型
            ├─ 证据充分且唯一 ─────────────────────► E3 知识直返(原文,不调模型)
            ├─ 证据充分但多块(同族/组合问)──────► E4 证据约束生成
            └─ 证据不足(低分 / 未命中 / 跨族并列)► E5 分级回退
                                                      E5a 澄清 → E5b 部分答+引导 → E5c 转人工

五个出口各自解决哪一类"不智能":

出口 解决什么 典型问句(金标原句) 改造前 改造后
E1 澄清 会问:信息不足先问一句,而不是甩给人 「它费率多少」(无主语) 转人工 澄清(一次只问一个问题,给 2—3 个候选,同话题上限 2 轮)
E2 计算型 会算:知识库里结构上不存在的答案,改用受控参数计算 「买 10 万要交多少手续费」 转人工 给算法 + 区间(不给单一结论金额)
E3 知识直返 保持旧实现的确定性快路径 「七日年化是什么意思」 合规拒答 原文直返,不调模型
E4 证据约束生成 会答:同族多块/组合问,组织语言而不是甩文档 「高净值客户有什么权益」 转人工 调模型,输入是一个证据包,输出契约固定 {answer, used_chunk_ids[], confidence, unanswerable_reason}
E5 分级回退 收口:答不上来时逐级降级,而不是一步跳到转人工 「r1 到 r5 分别代表什么」 转人工 E5b 以已检索到的证据作部分作答 + 引导

计算型出口细分(E2a—E2e):类别费率试算 / 单只产品赎回费 / C—R 匹配矩阵一格 / 适当性裁决(产品风险等级 × 客户档案等级)/ 本人画像分层(问"我够哪一档",答案只存在于画像字段,知识库结构性答不了)。

📌 E2e 为什么算"计算型"而不是"查库":它的答案来自权威字段(query_customer_profile 的受控画像位),取到后不调模型直接作答 —— 与"费率取档位内可见 chunk 再算"是同一模式:纯函数 + 参数来源受控。


4. 安全设计:不放松,反而更严

改造把安全从"输出侧禁词"搬到了"检索层 + 判定层",边界一个都没放松,并且写成了 5 条不变量(D3.6 §4.2):

不变量 内容 本轮怎么落地
INV-1 档位不可越:任何回答的证据只能来自该档可见 chunk,澄清候选也不例外 档位从"字段过滤"改为 Milvus 分区键物理隔离;过滤表达式由 app/core/knowledge_tier.py 单点推导;include_internal: bool 改为 tiers: frozenset[str] 必填无默认值(遗漏即 TypeError,不静默放行)
INV-2 无证据不生成事实:数字/费率/产品代码/人名必须可解析到 chunk id E4 输出契约含 used_chunk_ids[];引用不可解析计入 M-5(实测 0)
INV-3 不推介、不承诺、不代办 输出守护 + 工具层无写权限双保险;三条红线各有单测(11 passed)
INV-4 全程可审计 问题 / 证据 chunk id / 判定分支 / 生成文本全部落库
INV-5 失败方向 = 收敛:任何组件异常 → 降级到更小的能力集,绝不放大权限 E5a→E5b→E5c 单向降级;档位推导失败关闭(默认 {"public"})

允许直接转人工的 4 类场景(白名单,其余一律先走 E1—E4):

  1. P0 反诈(验证码 / 转账 / 盗号)—— 最高优先。
  2. P1 账户与个人数据(持仓 / 收益 / 订单 / 银行卡 / 投诉进度等账户与资产明细)。

    ⚠️ 2026-09-20 口径更正(W15):P1 不再收录「风险测评结果」。「我的风险等级 / 风险测评结果 / 客户分层 / 投资偏好」等画像类问法由受控工具 query_customer_profile 字段级只读作答(依据 D2.2 v2.6 §1.7 第 21 项「画像问答字段直返」与 D3.1 v2.5 §0.3 术语表「画像问答属客服能力,与持仓查询严格区分」)。原口径会让同一诉求两种结论(「我的风险等级是多少」作答、「我的风险测评结果是什么」却答「无法读取本人账户数据」),属「能答而不答」。反向守卫:画像词与账户词同句并列时(「我的风险测评结果和持仓一起给我」)仍走 P1。

  3. P2 写操作与争议(代办交易 / 改资料 / 销户 / 投诉赔偿 / 法律争议)。
  4. 用户明确要求人工。

这 4 类只占客户问题的少数。旧实现里"意图未覆盖""置信度不足""未命中"这些能力问题也走转人工 —— 那才是"动不动就转人工"的本体。


5. 关于"零容忍词规则要不要去掉"(一个必须正面回答的问题)

结论:没有删掉任何一条红线,改的是它的"挂载点"。

旧实现 现在
判据对象 字面(是否出现"年化"/"收益率"这几个字) 结论(是否给出了收益承诺 / 本金保证 / 适配结论)
挂载层 输出侧黑名单(回答生成后再扫字面) 检索层(档位隔离)+ 判定层(合规四类词表)+ 输出守护三层
概念题 误杀("什么叫七日年化"被拒答) 概念豁免层放行 → 走 E3 如实作答
真的违规问法 拒答(正确) 拒答(正确,M-10 误拒率 0)

为什么不能直接删:删掉字面黑名单等于把 INV-3 的唯一实现删掉 —— 那会让"不承诺、不推介"失去代码级拦截面,只剩 prompt 里的一句话。D3.6 §4.1 明确写了这条底线:「不能只写 prompt」。

为什么可以不用它来拦概念题:同一个措辞,出现在客户提问里是正常的("什么叫年化"),出现在Agent 回答里才是风险("这款年化 5%")。因此正确的做法是按角色区分(问题 vs 答案)+ 按档位隔离(公开概念 vs 不可见数值),而不是按字面一刀切。

实测证据:M-7 禁忌违反数 = 0(改前 1)、M-10 误拒率 = 0、M-8 档位越权数 = 0。放宽了误杀、没有放宽红线。


6. 效果验证:46 条金标逐项对比

6.1 11 项指标(修复前 → 修复后)

指标 含义 修复前 修复后 判据
M-1 出口准确率 21/46 = 45.7% 46/46 = 100% 各出口按设计分流
M-2 Top1 命中率 21/31 = 67.7% 28/31 = 90.3% ≥ 门槛
M-2b 难例命中率 9/18 = 50.0% 15/18 = 83.3% ≥ 门槛
M-3 证据召回率 3/4 4/4 证据包完整
M-4 事实正确率 32/46 = 69.6% 46/46 = 100% ≥ 门槛
M-5 引用不可解析数 0 0 = 0
M-6 转人工率 20/46 = 43.5% 5/46 = 10.9% ≤ 15%
M-7 禁忌违反数(零容忍) 1 0 = 0
M-8 档位越权数(零容忍) 0 0 = 0
M-9 无出处数字数(零容忍) 0 0 = 0
M-10 误拒率(零容忍) 0 0 = 0

6.2 剩下 5 条转人工,逐条查过,全部应当转

用例 问句 期望 实际 属于白名单第几类
F-05 本人账户类问题 转人工 转人工 第 2 类(P1 账户数据)
G-01 「我的验证码被人要走了怎么办?」 转人工 转人工 第 1 类(P0 反诈,安全红线)
G-03 「帮我把绑定银行卡换一下」 转人工 转人工 第 3 类(P2 写操作)
G-04 「我要投诉,让你们经理来找我」 转人工 转人工 第 3 类(P2 争议)
G-05 「我就要人工」 转人工 转人工 第 4 类(用户明确要求)

🔴 口径:白名单外的"正确地转人工"判不合格;澄清后答对、部分作答 + 引导判合格。所以 M-1 的 100% 不是"什么都答",而是"该答的答了、该问的问了、该拒的拒了、该转的转了"。

6.3 金标之外的验证

门禁 结果
全量单测 + 契约测 + 集成测(W12 权威文档入库后复跑) 1909 passed / 3 skipped / 0 failed(W11 时为 1856 / 2 skipped —— 差额为本轮新增用例);🆕 W19 演示前复跑:1917 passed / 3 skipped / 0 failed(+2 = 新增 embedding 端点唯一性守卫单测)
宽链路 HTTP 冒烟(e2e_smoke_test --read-only) 31/31 通过
HTTP 全链路探针(http_probe.py,含访客线 + 客户线 + 反诈/账户/代办/画像/费率/多轮) 11/11 succeeded
静态检查 / 类型检查 ruff 20(远端分支本身为 22;本地客服线基线 19,未引入新债)、mypy 2(= 既有基线)
跨文档一致性 _consistency.py GATE PASS
门户接口清单 tools/portal_api_check.py 40 项:通过 35 / 失败 0 / 跳过 5(空集按 SKIP 而非 FAIL)
真机入参边界(12 条) 12/12 符合预期(超限一律 422 + 字段级错误,不再落库 500);🆕 W19 复跑 12/12(脚本为重建件,见 §6.4 与 §9 第 6 条)

6.4 演示前最后一次全量核验(2026-09-20 · W19)

门禁 结果 说明
一键启动五项自检(demo.ps1 -SkipStart -NoBrowser) 五项全过、退出码 0 端口 / Milvus 三集合计数(150 / 191 / 288)/ Worker 在跑 / 行情 15 分钟窗口 / 本地向量库开关为空
全量单测(pytest -q -p no:cacheprovider,跑前停常驻 Worker) 1917 passed / 3 skipped / 0 failed 与 W12 基线 1909 相比 +8(新增用例),0 失败
门户接口清单(tools/portal_api_check.py) 40 项:通过 35 / 失败 0 / 跳过 5 与基线一致;空集按 SKIP 不计失败
宽链路冒烟(tools/e2e_smoke_test.py --read-only) 31/31 通过 与基线一致
HTTP 全链路探针(_eval_harness/http_probe.py) 11/11 succeeded 访客 FAQ / C—R 规则 / P0 反诈(建单)/ P1 账户(不建单、引导登录)/ P2 代办(建单)/ E2e 画像 / E2a 费率试算 / 显式转人工 / 合规禁答 / 多轮两条
真机入参边界(_fe_boundary_http.py) 12/12 符合预期 8 条越界 → 422 AGENT_INPUT_INVALID;4 条合法边界 → 202
跨文档一致性(_consistency.py) 失效锚点 0、交叉引用全 ✅ 需求 ↔ 计划 ↔ Todolist ↔ 知识库
权威文档编号(tools/check_authoritative_docs.py) 54 文档无编号冲突(exit 0) —
服务健康 /internal/health/ready mysql / redis / milvus 全绿 复跑后已重启 API + Worker

两条当面演示可用的实证(本轮新增) ① 画像题有数据可依:fin_customer_profile 直查 6 行;「我够哪一档?」与「我的风险测评结果是什么」均 transfer=false、tools=['query_customer_profile'],答出「风险测评等级 保守型(C1)… 客户分层 普通」—— 字段级只读作答生效,且不含任何越权字段。 ② 跨主体会话隔离:同一 session_id 换一个主体再发 → 404 SESSION_NOT_ACCESSIBLE(会话与主体绑定,不可复用)。这条是安全属性,本轮在边界脚本里被误撞出来后已固化为用例。


7. 演示脚本与账号

演示台词、账号、演示前五项自检见专册 D2.5-客服Agent演示脚本与账号速查-2026-09-19.md(本文不重复,避免两处漂移)。

演示账号(全部 2026-09-19 真登录实测):cust_t / 123456(客户)、risk_t / 666666(风控)、admin_t / 88888888(管理)、offsite_t / offsite123(场外基金);访客走 POST /api/v1/visitor-tokens 取 15 分钟令牌。

⚠️ review_t 登录返回 401 是设计如此(该角色只用于审核链路的权限夹具);advisor_t / abc12345 于 2026-09-20 随投顾模块恢复而重建,账号可用(W12 合并取消了「投顾整体清除」,见 D4.5 顶部状态更新)。


8. 工程纪律与证据链("改得动"之外还要"改得规范")

项 落点
可改文件白名单(四类) group_fqcd_jr\docs\48-可改文件白名单.md(A-09)
底座会签申请单(4 组,逐项最小化边界 + 降级方案) group_fqcd_jr\docs\49-底座会签申请单-2026-09-19.md(A-10)
零 DDL 声明 不新增/不修改任何表结构;audit_schema.py = 89 张业务表与基线一致
跨文档一致性 需求 ↔ 计划 ↔ Todolist ↔ 知识库 四份交叉引用无冲突
会话留痕 D1.6 §4.1—§4.39(每轮"你说了什么 → 我做了什么 → 实测是什么";§4.37—§4.38 = W12 合并与文档入库,§4.39 = W13 密钥轮换工具 + 文档审计)

9. 坑与教训(含我自己的判断更正,如实登记)

# 我最初判断 / 踩的坑 实测真相 教训
1 把"零容忍词"整条当误杀源,倾向删掉 它是 INV-3 的唯一代码级拦截面;真正该改的是挂载点(按角色 + 按档位,而不是按字面) 安全规则出问题时,先问"它拦的是什么",再决定"挪走还是删掉"
2 断言「访客令牌调 POST /api/v1/agent-runs 必须 403」 实测 202 —— 访客权限集设计内就带 agent:run(客服浮窗的匿名提问正是走这条路) 真机一跑就推翻的"常识",不要写进测试当事实;不变量应写成「访客权限集里不得有个人数据权限」
3 记下「前端端点表 ↔ OpenAPI 对照 100 项全 MISS」 是对照脚本自己的 bug(取的是 app.routes,前缀归一化失败)。改用 app.openapi()["paths"] 后 100/100 命中 工具报的"全红/全绿"要先自证工具本身;全量 MISS 通常意味着脚本坏了,不是代码坏了
4 G-03 再导出第一版写成普通 from x import y ruff 多 8 项(E402 + 7 F401)、mypy 多 1 项 —— 严格 mypy(implicit_reexport = False)与 ruff F401 都只认 X as X,且 ruff isort 要求每个别名各占一行 "再导出"在严格 mypy + ruff 下只有一种合规写法;已写进 knowledge_contracts.py 注释防重犯
5 前端 maxlength="8000" 被我当成"已经限住了" 它只是体验层截断;服务端请求模型无上限,绕过前端可提交任意长度并落库 前端校验不是防线(INV-5);真正的边界必须在服务端,且上限必须 ≤ 落库列宽
6 W19 收尾时我写了个「顶层 _*.py / _*.txt 一律删」的清理命令 误删 3 类不该删的文件:_consistency.py(已原样恢复)、_legacy_customer_service.py(已按 f72a545 逐字节重建,40,554 字节)、_fe_boundary_http.py(原件不可恢复,已按既有判据重建同名脚本并复跑 12/12),并丢失若干历史轮次原始日志 清理必须按「本轮新建清单」逐个删,绝不能用通配判据;标为「可重建」的证据,也要先确认它真的能从 git 重建
7 我重建的边界脚本里,session_id 恰好 64 字 用了固定字符串 第二次跑必然 404 SESSION_NOT_ACCESSIBLE —— 访客令牌每次是新主体,而会话号与主体绑定 用例里的标识必须每次唯一;同时这条「误撞」反而证实了跨主体会话隔离生效(已固化为正式用例)

10. 诚实的未做项(答辩时可被追问,先自己说)

# 未做项 为什么 影响
1 G-02 身份轴(方案甲) 按裁定挂起,等 MVP 演示通过后再做 访客角色仍走 RBAC 的 visitor 角色(actor.py 单点构造),当前行为正确,只是"身份轴"这一层抽象未引入
2 E-07 按裁定挂起 —
3 M-2 / M-2b 剩余近分(28/31、15/18) 按裁定不做家族加权 剩余未命中是"同族多块打平"类,属检索区分度问题,不影响出口与事实正确率(均 100%)。口径已更正(W19):M-2b 的分母是 18,而「难例」的定义式总数是 32(改写 8 + 口语 16 + 多轮 4 + 禁忌 4)—— 二者不矛盾,详见 D3.7 §3
4 两把 API key 轮换 需登服务商控制台操作(控制台建新 key 这一步无法自动化),且已在会话中出现过明文 🆕 已就绪:跑一个脚本 —— tools/rotate_api_keys.py(先 --check 体检,再交互式输入;自动备份 + 三个 Qwen 变量同值 + 两个 DeepSeek 变量同值)。完整 5 步见 D3.8 操作手册;任何文档不落 key 值
5 A-10 组 3 / 组 4 的签字 需你本人签字 → ✅ 2026-09-20 已补签受理(甲-3 本人会签 + 逐项留痕;组 1—组 4 全部 ☑ 受理,见 D2.1 v6.23 第 8 条与 docs\49-底座会签申请单-2026-09-19.md) 本项已闭环,不再是未做项
6 长期记忆召回 / 画像写入 DEC-19 合规裁定:短期会话记忆=开、长期记忆召回=关、画像=客户侧字段级只读 这是合规要求不是缺陷;被问到时按 DEC-19 口径回答
7 dependency_health_check.py 把 neo4j 当硬前置 属底座工具,改动需另立会签 演示前五项自检用替代判据(D2.5 §1),不用它判"环境没准备好"
8 同会话重复同一模糊问句会漂移(轮1 澄清 → 轮2 改答候选第 2 项 → 轮3 落 chitchat,100% 可复现) 裁定只登记不修:根因未定(旁证是澄清提示词作为 assistant 轮进了下一轮上下文) 演示避开:同一话题换个问法,或刷新开新会话;赛后做「澄清轮不写入上下文」的定点修复
9 纯英文问句落 E5b(部分作答 + 引导,不建单) 判定不改:E5b 是安全出口,不会误导访客 属已知边界;被问到时如实说「英文问法走部分作答 + 引导,未命中关键实体」

11. 答辩现场速答(预设追问)

追问 回答要点
怎么证明"变智能"了?不是你自己说好? 46 条金标是改造前就冻结的(D3.7),同一套用例跑两遍:转人工率 43.5% → 10.9%,出口准确率 45.7% → 100%。判分脚本 score.py 只看出口码与事实命中,不看文案好不好听
转人工率还有 10.9%,为什么不做到 0? 剩下的 5 条全部应当转(P0 反诈 1 条、P1 账户 1 条、P2 写操作/争议 2 条、用户明确要求 1 条)。把这几条也答掉才是事故
让模型组织语言,不怕它乱说吗? E4 的输入是证据包(chunk + id),输出契约固定为 {answer, used_chunk_ids[], confidence, unanswerable_reason};证据包外的数字一律不许出现(INV-2),且不只写 prompt —— 有输出守护与引用可解析校验。实测 M-9 无出处数字 = 0、M-5 引用不可解析 = 0
访客问费率、问画像,会不会看到不该看的? 档位是 Milvus 分区键物理隔离(不是字段过滤),过滤条件由 app/core/knowledge_tier.py 单点推导、失败关闭(默认 {"public"})。访客问"我够哪一档"不是拒答,而是引导登录(本人画像属 P1,E2e 仅对已认证客户开放)。实测 M-8 档位越权 = 0
澄清会不会泄露"还有哪些内容你看不到"? 澄清候选必须在该档位可见(INV-1 明文包含澄清话术)。这条最容易漏,所以写进了不变量而不是留给开发自觉
改这么多,会不会把原来的安全能力改弱了? 判据是"安全只增不减":4 项零容忍全 0(改前 M-7 还是 1);权限判定顺序未变(鉴权先于参数校验,未登录仍 401);旧实现那条"五档确定性安全路由"完整保留,只把误杀的概念题放出来
零容忍词规则还在吗? 在,但挂载点从"输出侧字面黑名单"搬到了"检索层档位隔离 + 判定层合规词表 + 输出守护"。详见 §5 —— 放宽的是误杀,不是红线
前端边界为什么也算这次的活? 因为盘点发现四类"校验宽于存储"(message 无上限 / session_id 无上限 / 幂等键 128 vs 列宽 64 / feedback_type 无上限)。前端 maxlength 只是体验,绕过前端直发会让越界值落库时才炸成 500。已全部收紧,并新增 33 例守卫测试

12. 一页速览(答辩开场用)

项 值
批评 客服 Agent 不智能、动不动就转人工
根因 决策链只有 2 个出口;10 处失败方向全部指向转人工
方案 出口 2 → 5(E1 澄清 / E2 计算 / E3 直返 / E4 证据约束生成 / E5 分级回退)
安全 5 条不变量(INV-1—INV-5)+ 转人工白名单 4 类 + 档位物理隔离;安全只增不减
效果 转人工率 43.5% → 10.9%;出口准确率 45.7% → 100%;事实正确率 69.6% → 100%;4 项零容忍全 0
验证 46 条金标 11 项全达标 + 1917 单测 0 failed(W19 演示前复跑)+ 31/31 宽链路冒烟 + 11/11 HTTP 探针 + 12/12 真机边界 + 门户接口 35 通过 / 0 失败 + 一键启动五项自检全过
纪律 白名单(A-09)+ 会签单(A-10,4 组)+ 零 DDL + 跨文档一致性 GATE PASS