🗣 每日羊毛线报 👈


🏵 LiteLLM - 统一LLM接口

🍥 简介：
LiteLLM 是一个 Python SDK 和代理服务器，旨在简化对 100 多个大型语言模型（LLM）API 的调用。它使用 OpenAI 格式统一不同 LLM 提供商的接口，包括 Bedrock、Azure、OpenAI 等，方便开发者切换和集成不同的模型。LiteLLM 提供重试/回退机制、速率限制和预算控制功能，可以更轻松地管理和优化 LLM 的使用。此外，它还具备输入翻译、输出标准化等特性，降低了开发成本。

🍭 #LLM #API网关


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿