修掉"Worker 会自己退出"的真缺陷(场外游标续租失败误取消主任务)

## 现象(2026-09-14 实测,非人为停止)
Worker 进程自己退出,退出码 1,日志末尾是
`ConnectionResetError: [WinError 10054] 远程主机强迫关闭了一个现有的连接`
(发生在 `offsite_worker.close()` 的 IMAP `logout()`),
而真正的起点是更上面那句 `asyncio.exceptions.CancelledError`。

## 根因(两处,都是真缺陷)
1. **取消错了对象**:`OffsiteMailWorker._process_batch` 把
   `asyncio.current_task()`(= `__main__.serve()` 的**主循环任务**)交给游标心跳,
   心跳在续租失败(`rowcount != 1`)或续租抛异常时执行 `task.cancel()` ——
   于是"放弃这一批"变成了"**杀掉整个 Worker**"。`CancelledError` 从 `run_once()`
   一路冒到 `serve()`,主循环直接结束。
2. **收尾异常盖掉退出原因**:`serve()` 的 `finally` 里 `await offsite_worker.close()`
   在网络已断时抛 `ConnectionResetError`,把 `CancelledError` 顶掉,
   表现为"关闭流程崩了",看不出真实原因。

## 改法
- `_process_batch` 把"这一批"跑在**独立任务** `batch` 里,心跳只取消 `batch`;
  调用方捕获 `CancelledError` 后区分两种情况:
  **本批被放弃**(`batch.cancelled()` 且当前任务自己没有在取消)→ 记 warning、返回 `False`、
  Worker 继续下一轮;**外层在取消当前任务**(Ctrl+C / 进程关闭)→ 原样上抛,绝不吞掉。
- `serve()` 的 `finally` 里关闭场外 Worker 包 try/except:收尾失败只记日志,
  **不改变退出码与退出原因**。
- 新增 `_current_task_is_cancelling()` 用 `Task.cancelling()` 做这个区分(3.11+)。

## 守卫
`tests/unit/worker/test_offsite_mail_worker.py::test_cursor_lease_loss_abandons_batch_without_cancelling_the_worker`
—— 续租失败(rowcount=0)时断言:批次确实跑起来过、返回 `False`、
**调用方任务没有被取消**。修复前这条用例会挂在"调用方被取消"上。

## 验证
- `pytest tests/unit/worker` → 112 passed
- `pytest tests/unit tests/contract` → 见下方(0 failed)
- `mypy app/worker/offsite_mail_worker.py app/worker/__main__.py` → 0 错(除组员文件里既有的 1 个)
- 重启 Worker 后跑记忆演示链路:候选 → verified → active → **2 秒**收敛,进程稳定

## 文档
`docs/演示用/记忆系统演示文档-2026-09-14.md`:
场景五补"如果发现 Worker 自己退了是怎么回事",问答补"Worker 会不会自己中途退出"。
This commit is contained in:
2026-09-15 08:01:00 +08:00
parent 9490e5043b
commit 01e4e6a687
4 changed files with 123 additions and 6 deletions
+36 -5
View File
@@ -46,6 +46,17 @@ from app.service.offsite_mail_adapter import (
logger = logging.getLogger(__name__)
def _current_task_is_cancelling() -> bool:
"""当前任务是否**自己**在被取消(Ctrl+C / 进程关闭),而不是"这一批被放弃"。
`Task.cancelling()`(3.11+)返回"已被请求取消的次数",用它区分上面两种
`CancelledError`:前者必须原样上抛,后者应转成"本批放弃"。
"""
task = asyncio.current_task()
cancelling = getattr(task, "cancelling", None)
return bool(cancelling()) if callable(cancelling) else False
class MailReceiver(Protocol):
last_scanned_uid: str | None
@@ -241,12 +252,32 @@ class OffsiteMailWorker:
return None
async def _process_batch(self, lease: CursorLease, context: RequestContext) -> bool:
task = asyncio.current_task()
if task is None:
raise RuntimeError("场外 Worker 无法建立当前任务租约")
heartbeat = asyncio.create_task(self._cursor_heartbeat(lease.lease_id, task))
"""处理一批邮件;**租约丢失只放弃这一批,不是杀掉整个 Worker**。
⚠️ 2026-09-14 修:这里此前把 `asyncio.current_task()`(= `__main__.serve()`
的**主循环任务**)交给心跳,续租失败时心跳 `task.cancel()` 取消的就是主任务 ——
后果是 `CancelledError` 从 `run_once()` 一路冒到 `serve()`,进程直接退出,
而且 `finally` 里的 `offsite_worker.close()`(IMAP logout)在网络已断时会抛
`ConnectionResetError`,把真正的退出原因也盖掉,最终表现为
**"Worker 自己退了、退出码 1、日志最后一行是 IMAP 连接被重置"**
(2026-09-14 实测踩到,见 `docs/演示用/记忆系统演示文档-2026-09-14.md` 场景五)。
现在把"这一批"跑在**独立任务**里:心跳取消的是它,调用方只是收到
"本批被放弃",然后照常回到主循环的下一轮。
"""
batch = asyncio.create_task(self._process_batch_work(lease, context))
heartbeat = asyncio.create_task(self._cursor_heartbeat(lease.lease_id, batch))
try:
return await self._process_batch_work(lease, context)
return await batch
except asyncio.CancelledError:
# 两种情况必须分开:① 心跳因为租约丢失取消了这一批 → 本批放弃、Worker 继续;
# ② 外层(Ctrl+C / 进程关闭)取消了当前任务 → 必须原样向上抛,不能吞。
if batch.cancelled() and not _current_task_is_cancelling():
logger.warning(
"场外邮件批次被放弃(游标租约已失效)lease_id=%s", lease.lease_id
)
return False
raise
finally:
heartbeat.cancel()
with suppress(asyncio.CancelledError):