🍭 #Python #LLM #工具框架
🏵 Forge - 本地LLM任务编排与代理服务
🍥 简介:
Forge 是一个基于 Python 的工具,旨在增强本地大型语言模型(LLM)执行任务的可靠性。该框架通过提供防护机制与上下文精细化控制,优化了模型处理多阶段任务的表现。支持 Ollama、llama-server、Llamafile 及 Anthropic 等后端,可作为工作流执行器、中间件或兼容 OpenAI 协议的代理服务器使用,提升本地模型交互的稳定性。
🎈 【进入项目】🗣 活动线报 |
掘金项目