挖掘有趣 Github 的猫。


有事联系:https://t.me/qumaobot
🍭 #LLM工具 #智能路由


🏵 LLMRouter - LLM推理优化路由

🍥 简介:
LLMRouter是一个智能路由系统,专为优化大型语言模型(LLM)的推理性能而设计。它通过动态评估并为每个请求选择最匹配的LLM,从而提升推理效率与准确性。系统核心在于其智能决策机制,确保资源高效利用,为LLM应用提供灵活、高性能的推理服务。

🎈 【进入项目】


🗣 活动线报 | 掘金项目
🍭 #LLM工具 #测试工具


🏵 Promptfoo - LLM应用测试与优化工具

🍥 简介:
Promptfoo是一款专为开发者设计的工具,用于测试和优化基于大语言模型(LLM)的人工智能应用。它支持自动化提示词及模型测试,通过识别漏洞来保障应用安全性,并能进行多模型并行对比。该工具可在本地部署使用,亦可无缝集成到现有开发工作流程中。

🎈 【进入项目】


🗣 活动线报 | 掘金项目
🍭 #AI工具 #LLM开发


🏵 Second Brain AI Assistant - 使用AI技术创建第二大脑AI助手

🍥 简介:
该项目旨在指导用户构建专属的第二大脑AI助手。它详细阐述了如何利用大型语言模型(LLMs)、智能代理(Agents)、检索增强生成(RAG)、模型微调(Fine-tuning)以及LLMOps等前沿AI技术。通过学习这些核心方法,用户将掌握从概念到部署的完整流程,有效整合和管理个人知识,提升信息处理效率,从而打造一个高度智能化的辅助系统,以应对复杂的知识管理和任务执行需求。

🎈 【进入项目】


🗣 活动线报 | 掘金项目
🍭 #LLM #本地部署


🏵 Awesome local LLM - 本地大模型工具集

🍥 简介:
这是一个精心整理的开源项目清单,涵盖了用于在本地环境运行大型语言模型(LLM)的各种优秀平台、工具、实践方法与参考资源。旨在为开发者和研究人员提供一套全面的解决方案,以高效部署和管理本地化LLM应用。

🎈 【进入项目】


🗣 活动线报 | 掘金项目
🍭 #LLM工具 #AI应用 #语言模型

🏵 LLM Council - LLM协同问答

🍥 简介:
LLM Council是一个本地Web应用,通过OpenRouter协调多个大型语言模型。用户请求发送至不同模型,模型间相互评估并排序输出结果,最终由一个“主席”模型汇总并生成最终答案,旨在提升问答质量。

🎈 【进入项目】

🗣 羊毛撸货线报 | 合作/投稿
🍭 #数据分析 #LLM应用


🏵 DeepAnalyze - 首个自主数据分析代理模型

🍥 简介:
DeepAnalyze是首个代理式自主数据分析语言模型,无需人工干预即可执行数据任务。它支持数据准备、分析、建模、可视化及报告生成全流程自动化。该模型能深入分析结构化、半结构化和非结构化等多种数据源,并输出专业分析报告。DeepAnalyze完全开源,用户可自由部署或扩展自定义数据分析助手。

🎈 【进入项目】


🗣 羊毛撸货线报 | 合作/投稿
🍭 #人工智能 #LLM #提示词工程 #自动化

🏵 Promptomatix - LLM提示词自动化与优化

🍥 简介:
Promptomatix 是一个专为大型语言模型(LLM)设计的AI驱动平台,专注于提示词的自动化生成与优化。该平台提供结构化方法,旨在提升提示词的质量、一致性及成本效益。通过自动化流程,Promptomatix有效减少了传统手动提示词工程中耗时且易错的迭代过程,从而帮助开发者及研究人员高效产出高质量的LLM交互内容,加速应用开发与部署。

🎈 【进入项目】

🗣 羊毛撸货线报 | 合作/投稿
🍭 #商业智能 #LLM应用 #数据分析 #开源项目


🏵 OpenChatBI - 基于大模型的数据智能分析

🍥 简介:
OpenChatBI 是一款基于大型语言模型的开源智能商业智能工具。它旨在通过自然语言交互,使用户能够高效地查询、分析和可视化数据。该项目基于LangGraph和LangChain生态系统构建,提供集成式聊天机器人和工作流功能,可实现自然语言到SQL的转换,显著简化了复杂的数据分析流程,提升了数据洞察的效率和可访问性。

🎈 【进入项目】


🗣 羊毛撸货线报 | 合作/投稿
🗣 每日羊毛线报 👈


🏵 POML - 结构化提示工程语言

🍥 简介:
POML(Prompt Orchestration Markup Language)是一种为大语言模型提示工程设计的创新标记语言,通过类 HTML 语法实现结构化、模块化和可维护的提示开发。POML支持多种数据类型(文本、表格、图片)嵌入与格式化,内容与展现分离,内置模板引擎支持变量、循环与条件语句,极大提升复杂提示生成和集成效率。配套 VS Code 插件及多语言 SDK,可视化开发、语法高亮和实时调试,大幅提升 LLM 应用开发的规范性与可扩展性。

🍭 #提示工程 #LLM开发


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿
🗣 每日羊毛线报 👈


🏵 memori - LLM智能记忆引擎

🍥 简介:
memori 是专为大语言模型(LLM)、AI智能体及多智能体系统设计的开源记忆引擎,具备类人短期记忆与智能检索能力。通过与OpenAI等主流AI库集成,memori可自动记录对话历史,结构化存储用户偏好、技能及项目信息,并支持SQLite、PostgreSQL、MySQL等多种数据库。其双模式记忆(短期注入+自动检索)机制,可动态为LLM注入相关上下文,显著提升模型的上下文感知与交互流畅性,助力开发者构建更高效智能的AI应用。

🍭 #LLM记忆 #AI智能体


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿
🗣 每日羊毛线报 👈


🏵 Claude Code Router - Claude请求路由

🍥 简介:
Claude Code Router 是一个强大的工具,用于将 Claude Code 请求路由到不同的模型,并自定义任何请求。它支持多种模型提供商,例如 OpenRouter、DeepSeek 等。通过请求/响应转换器,可以为不同的提供商定制请求和响应。该工具还支持动态模型切换、GitHub Actions 集成和插件系统,从而实现更灵活和可扩展的功能。

🍭 #LLM #请求路由


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿
🗣 每日羊毛线报 👈


🏵 Dify - 开源LLM应用开发平台

🍥 简介:
Dify 是一个开源的大语言模型(LLM)应用开发平台,旨在帮助开发者快速构建、部署和运营生产级的 AI 应用。它提供直观的可视化界面,集成了 AI 工作流编排 (Workflow)、检索增强生成 (RAG) 管道、智能体 (Agent) 构建、多模型支持(涵盖 GPT、Llama3 等)以及 LLMOps 监控等核心功能。Dify 支持从原型到生产的全流程开发,并提供 Backend-as-a-Service API,方便开发者将其集成到现有业务逻辑中。文档

🍭 #LLM应用开发 #可视化编排


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿
🗣 每日羊毛线报 👈


🏵 DeepClaude - 融合R1与Claude的LLM接口

🍥 简介:
DeepClaude 是一款基于 Rust 构建的高性能 LLM 推理 API 与聊天界面。它整合了 DeepSeek R1 的链式思考(CoT)深度推理能力与 Anthropic Claude 模型优秀的创造力和代码生成能力。通过统一接口,开发者可以同时利用两大模型的优势,并通过流式响应获得低延迟体验。项目支持用户自带 API 密钥(BYOK),确保数据隐私与控制权,旨在提供结合 R1 推理和 Claude 创造力的优化 AI 服务。

🍭 #LLM #API


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿
#GPTCache #LLM #开源


🏵 #程序 | GPTCache - 存储LLM响应

🍥 简介:
GPTCache是一个用于存储大型语言模型(LLM)响应的语义缓存项目。它可以帮助开发者降低LLM API调用的成本,提高响应速度,优化应用性能。GPTCache通过docker镜像提供服务,支持任何语言使用。


🎈 【进入项目】


🫥 关注频道 🤖 合作/投稿
 
 
Back to Top