Files
group_fqcd_jr/tools/seed_knowledge_r1r5_faq.py
T
张胜宇 e239eb778b docs: 品牌全量口径统一为「南方基金」+ 作废文档清理
1) 客服 Agent 四份交付文档 + 构建脚手架:品牌由包装占位 XX科技 / 旧名 南方财富
   统一为南方基金(热线 400-889-8899 / 官网 nffund.com),系统名改为「智能服务系统」;
   同步追加 §0.4 修订记录行,工程记录行保留原占位字面以支撑硬编码扫描验收。
2) 开发文档:清理 28 份已作废/残留文档(14 份移出归档 + 14 份仓库副本),
   新增《文档规整方案与开发前待决事项-2026-09-17》。
3) 客服agent 四份交付文档首次纳入本分支。
2026-09-17 15:15:22 +08:00

161 lines
6.7 KiB
Python
Raw Blame History

This file contains ambiguous Unicode characters
This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.
"""补一条"r1到r5分别代表什么"的 FAQ 知识(幂等;解决该问法答不出来的问题)。
## 为什么需要它
用户实测:问「r1到r5分别代表什么」时客服不给答案(走兜底 + 转人工)。排查结论(2026-09-14):
- 向量库**有**内容,检索也命中(top1 = 那一套"高频问答对"里的 `R1到R5风险等级是什么意思?`,
相似度 **0.6621**);
- 但客服的判定是"中置信(0.55–0.75)必须**领先次优 ≥0.07**"(
`app/service/agent/implementations/customer_service.py:148-150`),而这一问的次优是
0.6412 → **只领先 0.021** → 判"候选并列",转人工。
根因是**同一主题有多个来源**:`高频问答对.txt` 的 R1–R5 条目、《个人投资者适当性管理指南》
第十一条(还切成好几块)、产品手册的 1.4 节——它们分数天然挤在一起,gap 永远拉不开。
## 这条为什么有效
实测(本机,qwen3-embedding):
| 条目形态 | 「r1到r5分别代表什么」的 top1 | 结论 |
|---|---|---|
| 长条目(表格 + 详细说明,488+433 字,切两块) | 0.6622 | 向量被长正文稀释,仍不过门槛 |
| 短条目(272 字,标题与问法近似) | 0.7214 | gap 0.059,仍差一点 |
| **短条目 + 标题与问法逐字对齐**(本条的做法) | **0.7384**,次优 0.6623 → **gap 0.0761 ≥ 0.07** | ✅ **可答** |
也就是:**命中条目的标题/正文与客户问法越贴近、块越短,相似度越高**;高置信档(≥0.75)
不要求 gap,中置信档靠"领先次优"过关。内容侧这一条就能修好,不必改门槛策略。
## 用法
```bash
# 先看要做什么(默认只读探测)
python tools/seed_knowledge_r1r5_faq.py
# 真正上传(需要 API 在跑,且 Worker 在跑以便投向量)
python tools/seed_knowledge_r1r5_faq.py --apply
```
幂等:若已存在同 `source_file` 的**未过期**知识,直接跳过(要覆盖先加 `--force`,
它会先删旧的再传新的)。
"""
from __future__ import annotations
import argparse
import asyncio
import base64
import sys
import time
import uuid
from pathlib import Path
import httpx
if hasattr(sys.stdout, "reconfigure"):
sys.stdout.reconfigure(errors="replace")
BASE_DEFAULT = "http://127.0.0.1:8000"
#: 知识正文放 `docs/`(与 `tools/seed_knowledge_demo.py` 读 `docs/43-…` 同一约定):
#: `data/` 被 `.gitignore` 忽略,放那里换环境就取不到了。
PROJECT_ROOT = Path(__file__).resolve().parents[1]
SOURCE = PROJECT_ROOT / "docs" / "45-风险等级R1到R5问答(知识库入库版).md"
FILENAME = "r1到r5分别代表什么.md"
PROBE_QUERY = "r1到r5分别代表什么"
def _login(client: httpx.Client, base: str, username: str, password: str) -> str:
response = client.post(
f"{base}/api/v1/auth/tokens", json={"username": username, "password": password}
)
if response.status_code != 200:
raise SystemExit(f"登录失败:HTTP {response.status_code} {response.text[:160]}")
return str(response.json()["data"]["access_token"])
def _headers(token: str) -> dict[str, str]:
return {"Authorization": f"Bearer {token}", "Idempotency-Key": uuid.uuid4().hex}
def _existing_active(client: httpx.Client, base: str, token: str) -> list[dict[str, object]]:
"""列未过期知识,挑出同 source_file 的条目(用于幂等)。"""
response = client.get(f"{base}/api/v1/knowledge/list", headers=_headers(token))
body = response.json()
items = body.get("items")
if items is None:
data = body.get("data")
items = data.get("items") if isinstance(data, dict) else data
if not isinstance(items, list):
return []
return [row for row in items if isinstance(row, dict) and row.get("source_file") == FILENAME]
def _probe_scores() -> None:
"""上传后核对检索评分(与客服判定同一口径)。"""
from app.service.agent.bootstrap import get_knowledge_search_service
service = get_knowledge_search_service()
outcome = asyncio.run(service.search(PROBE_QUERY, top_k=5))
if not outcome.hits:
print(f" ⚠️ 「{PROBE_QUERY}」仍然没有命中")
return
top = outcome.hits[0].score
second = outcome.hits[1].score if len(outcome.hits) > 1 else 0.0
gap = top - second
verdict = "高置信直接答" if top >= 0.75 else (
f"中置信 gap={gap:.4f} → " + ("可答" if gap >= 0.07 else "仍会转人工")
)
print(f" 检索:top1={top:.4f}({outcome.hits[0].title[:30]}) 次优={second:.4f} → {verdict}")
def main() -> int:
parser = argparse.ArgumentParser(description="补 R1–R5 的 FAQ 知识(幂等)")
parser.add_argument("--base", default=BASE_DEFAULT, help="平台地址")
parser.add_argument("--username", default="admin_t")
parser.add_argument("--password", default="88888888")
parser.add_argument("--apply", action="store_true", help="真正上传(默认只看要做什么)")
parser.add_argument("--force", action="store_true", help="已存在时删旧的再传")
args = parser.parse_args()
if not SOURCE.exists():
raise SystemExit(f"知识正文不存在:{SOURCE}")
content = SOURCE.read_text(encoding="utf-8")
print(f"知识正文:{SOURCE}({len(content)} 字)")
with httpx.Client(base_url=args.base, timeout=120) as client:
token = _login(client, args.base, args.username, args.password)
existing = _existing_active(client, args.base, token)
print(f"库内同源未过期知识:{len(existing)} 条 {[r.get('knowledge_id') for r in existing]}")
if existing and not args.force:
print("已存在 → 跳过(要覆盖加 --force)。")
_probe_scores()
return 0
if not args.apply:
print("\n[dry-run] 未上传。加 --apply 真写。")
return 0
for row in existing:
kid = row.get("knowledge_id")
resp = client.delete(f"{args.base}/api/v1/knowledge/{kid}", headers=_headers(token))
print(f" 删除旧条目 {kid}: HTTP {resp.status_code}")
resp = client.post(
f"{args.base}/api/v1/knowledge/upload",
headers=_headers(token),
json={
"filename": FILENAME,
"content_base64": base64.b64encode(content.encode("utf-8")).decode("ascii"),
"knowledge_type": "faq",
},
)
print(f"上传:HTTP {resp.status_code} {resp.text[:200]}")
if resp.status_code != 201:
return 1
print("等 Worker 投向量 …")
time.sleep(12)
_probe_scores()
return 0
if __name__ == "__main__":
raise SystemExit(main())