跳到正文
掘金· 吴凡wudianmei·· 13 天前AI 评分58

从 0 搭 AI Agent(三):用 SSE 实现流式输出

从 0 搭一个 AI Agent(三):SSE 流式输出,让 AI 边想边说

AI 导读

这篇教程讲怎么用 FastAPI 的 StreamingResponse 加前端 fetch ReadableStream 把 Agent 的流式输出跑通。后端用 sse_frame 给多行 data 逐行加前缀避免代码块丢行,并用 request.is_disconnected() 在客户端断开时停止消费 LLM、在 finally 里 aclose 释放上游。

来源:掘金 · juejin.cn