挖掘有趣 Github 的猫。


有事联系:https://t.me/qumao?direct
🍭 #AI前端集成 #流式解析


🏵 LangDiff - LLM流式结构化解析

🍥 简介:
LangDiff 是一个专为前后端分离的 AI 应用场景设计的 Python 库,解决了大模型流式输出结构化数据时的解析与同步难题。它支持基于 Pydantic 风格模型定义流式结构,自动按 token 解析部分数据并提供类型安全的回调,极大提高数据交互的实时性。内置 JSON Patch 差异生成能力,能高效追踪并同步数据变更到前端,避免全量刷新,提升前端响应速度。LangDiff 让前后端结构解耦,方便模型与界面独立演进,适合开发高性能、可维护的智能应用。

🎈 【进入项目】


🗣 羊毛撸货线报 | 合作/投稿
 
 
Back to Top