🍭 #AI代理 #API网关


🏵 Agentgateway - AI智能体通信代理网关

🍥 简介：
Agentgateway是一个专为AI智能体设计的新一代开源数据平面代理，使用Rust语言开发确保高性能表现。支持Agent2Agent和Model Context Protocol等主流互操作协议，为智能体间通信和工具调用提供即插即用的安全防护、可观测性和治理能力。内置面向MCP和A2A的RBAC权限系统，支持多租户隔离和通过xDS实现零停机动态配置更新。可在任意环境和代理框架中部署，从单机到大规模多租户场景均可适配。支持将OpenAPI等传统API转换为MCP资源，帮助企业快速构建安全可控的智能体通信基础设施。

🎈 【进入项目】


🗣 羊毛撸货线报 | 合作/投稿

🍭 #API网关 #AI服务管理


🏵 NiceAPI - 智能AI请求路由

🍥 简介：
NiceAPI是一个开源的智能API服务器，提供统一的OpenAI兼容端点，可动态路由请求至不同的AI模型提供商。通过自定义规则和优先级配置，它能自动选择最优提供商并实现故障转移，支持流式响应和详细的调用日志监控。该服务器包含可视化管理面板，简化多AI服务集成，提升应用的高可用性和成本效益，适合需要灵活管理多个AI供应商的企业级部署。

🎈 【进入项目】


🗣 羊毛撸货线报 | 合作/投稿

🗣 每日羊毛线报 👈


🏵 LiteLLM - 统一LLM接口

🍥 简介：
LiteLLM 是一个 Python SDK 和代理服务器，旨在简化对 100 多个大型语言模型（LLM）API 的调用。它使用 OpenAI 格式统一不同 LLM 提供商的接口，包括 Bedrock、Azure、OpenAI 等，方便开发者切换和集成不同的模型。LiteLLM 提供重试/回退机制、速率限制和预算控制功能，可以更轻松地管理和优化 LLM 的使用。此外，它还具备输入翻译、输出标准化等特性，降低了开发成本。

🍭 #LLM #API网关


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿