前端关了页面，后端怎么取消模型调用？

把整条链路摊开，取消信号是这样传播的：

机制一：响应式 cancel 信号（WebFlux 全家桶，最推荐）

Reactor Netty 监听 TCP 状态，客户端断开瞬间内核发来 RST/FIN → 最下游 Subscriber 调用 subscription.cancel() → cancel 沿 Flux 链一路向上传播。你只在链上挂监听即可。

// Spring WebFlux + Spring AI
return chatClient.prompt(request.message())
    .stream().content()
    .doOnCancel(() -> log.warn("客户端断开，触发取消 | session={}", sessionId)) // 感知点
    .doFinally(signal -> {
        if (signal == SignalType.CANCEL) log.warn("流被取消——前端跑了");
        else if (signal == SignalType.ON_COMPLETE) log.info("流正常结束");
        else if (signal == SignalType.ON_ERROR) log.error("流异常终止");
        cleanupSession(sessionId); // 统一收尾
    });

机制二：SseEmitter 的「回调三兄弟」（Spring MVC 传统栈）

MVC 下客户端断开不会自动传播 cancel——你是在「下一次 send 失败」时才后知后觉。dispose() 是手动取消模型订阅的核心动作，每个回调都必须带上。

SseEmitter emitter = new SseEmitter(120_000L); // 必须设超时！
Disposable sub = chatClient.prompt(req.message()).stream().content()
    .subscribe(
        chunk -> { try { emitter.send(SseEmitter.event().data(chunk)); }
                   catch (IOException e) { log.warn("send 失败，客户端已断开"); sub.dispose(); } },
        emitter::completeWithError, emitter::complete);

emitter.onCompletion(() -> { log.info("SSE 关闭"); sub.dispose(); });
emitter.onTimeout(() -> { log.warn("SSE 超时，强制取消"); sub.dispose(); emitter.complete(); });
emitter.onError(e -> { log.warn("SSE 异常: {}", e.getMessage()); sub.dispose(); });

机制三：应用层心跳检测（过 Nginx / CDN 时必上）

若中间隔着代理，TCP 断连感知会被延迟甚至吞掉。服务端每 15~30s 发一个 SSE 注释行 :heartbeat\n\n，一旦 send 心跳失败即判定连接死亡，主动取消模型调用。

Flux<ServerSentEvent<String>> heartbeat =
    Flux.interval(Duration.ofSeconds(15))
        .map(i -> ServerSentEvent.<String>builder().comment("keep-alive").build());
// 与数据流 merge，任一被取消都能感知
return Flux.merge(dataStream, heartbeat)
    .doOnCancel(() -> log.warn("心跳或数据流被取消"));

响应式：cancel 自动传播到 HTTP 层（最优雅）

下游 cancel → ChatClient 的 Flux 被取消 → WebClient 响应 Flux 被取消 → Reactor Netty 客户端关闭与 LLM 的 TCP 连接 → 模型端收到断开停止生成。你不用写任何「取消模型」的代码，只要保证信号能传上去。

下游 cancel
  ↓  ChatClient 的 Flux 被取消
  ↓  WebClient 的响应 Flux 被取消
  ↓  Reactor Netty 关闭与 LLM 的 TCP 连接
  ↓  模型端收到连接关闭 → 停止生成

哪些操作会「阻断 cancel 传播」？（重点避坑）

// ❌ 错误
.flatMap(chunk -> { String r = someBlockingDbQuery(chunk); return Flux.just(r); })
// ✅ 正确
.flatMap(chunk -> reactiveDbQuery(chunk))

// ❌ 错误：外部 cancel 传不到
.flatMap(chunk -> { someAsyncCall(chunk).subscribe(); return Flux.just(chunk); })
// ✅ 正确
.flatMap(chunk -> someAsyncCall(chunk))

不是响应式？那就手动取消（传统栈 / 同步调用）

• 方案 A · Future.cancel(true)：配合 ExecutorService 提交，中断正在执行 HTTP 调用的线程。
• 方案 B · 软取消（生产最常用兜底）：请求带 requestId，前端断开时后端写「取消表」；模型响应返回后发现有取消标记就直接丢弃结果。模型可能仍在烧钱，但不污染业务状态。
• 方案 C · 换响应式/异步：一劳永逸，让取消自动传播。

.doFinally(signal -> {
    chatMemory.clear(sessionId);        // 清会话
    concurrency.decrementAndGet();      // 减并发计数
    releaseResources(sessionId);          // 释放连接
});

四种语言 / 栈的取消机制对照

SSE vs WebSocket（面试官常追问）

1. SseEmitter 必须设超时——不设 = 连接永不超时 = 泄漏。
2. MVC 每个回调都要 dispose()——漏一个就是一条烧钱流。
3. 操作链里禁止 block()——阻塞会卡死 cancel 传播。
4. 别搞独立订阅——mono.subscribe() 扔在 flatMap 里，cancel 传不到 = 孤儿请求。
5. 同步 HTTP 客户端无法取消——要可取消就得用异步/响应式客户端（Java WebClient / Go ctx / Py httpx async / PHP Swoole client）。
6. 清理逻辑放 doFinally——别只放 doOnCancel，异常终止时你会漏清。
7. 别指望「关了连接就不扣钱」——部分 LLM 按已生成 token 计费，断开只是止损，不是免费。
8. 过 CDN/Nginx 一定要心跳兜底——否则断连感知会被代理层吞掉。
9. PHP 别用 FPM 模式做这个——必须常驻进程（Swoole / FrankenPHP），否则脚本随请求结束无法继续取消上游。
10. Python 别只用 is_disconnected 轮询——没网络写入时不触发，要配合底层读异常 / 心跳。