挖掘有趣 Github 的猫。


有事联系:https://t.me/qumaobot
🍭 #LLM #本地部署


🏵 Awesome local LLM - 本地大模型工具集

🍥 简介:
这是一个精心整理的开源项目清单,涵盖了用于在本地环境运行大型语言模型(LLM)的各种优秀平台、工具、实践方法与参考资源。旨在为开发者和研究人员提供一套全面的解决方案,以高效部署和管理本地化LLM应用。

🎈 【进入项目】


🗣 活动线报 | 掘金项目
🍭 #AI工具 #开源项目 #个人数据管理 #本地部署


🏵 Eclaire - 本地AI数据整合助理

🍥 简介:
Eclaire 是一款开源的本地化人工智能助手,专为个人数据管理设计。该程序允许用户将任务、笔记、文档、照片和书签等各类数据统一整合。作为一个私有化解决方案,Eclaire 支持用户将其部署在自己的服务器上,从而确保数据主权和隐私。此外,它提供API接口,允许进一步的扩展和定制,以适应不同的应用场景。此工具旨在为用户提供一个安全、可控且功能全面的本地AI数据管理平台。

🎈 【进入项目】


🗣 羊毛撸货线报 | 合作/投稿
🍭 #本地AI助理 #工作流自动化


🏵 OpenClaw - 本地AI助手与技能扩展

🍥 简介:
OpenClaw是一款在本地计算机上运行的人工智能助手。其核心功能通过可扩展的技能模块实现,使其能够与外部服务交互、自动化工作流程并执行特定任务。本资源汇集了各类可用技能,便于用户查找与部署。

🎈 【进入项目】


🗣 羊毛撸货线报 | 合作/投稿
🍭 #云服务模拟 #本地开发 #AWS工具 #CI集成


🏵 LocalStack - 云服务本地模拟

🍥 简介:
LocalStack是一款高效的云服务模拟器,可在本地或持续集成环境中以单容器方式运行。它使开发者无需连接远程云服务,即可在本地完整运行AWS应用程序和Lambda函数。无论是测试复杂的CDK应用、Terraform配置,还是初学AWS服务,LocalStack都能大幅加速和简化测试与开发流程。

🎈 【进入项目】


🗣 羊毛撸货线报 | 合作/投稿
🍭 #本地大模型 #推理加速


🏵 Lemonade - 本地LLM高效部署

🍥 简介:
Lemonade 是一款支持本地大语言模型(LLM)推理加速的部署工具,面向 GPU、NPU 和 CPU 硬件自动优化主流推理引擎配置。用户可通过 GUI 或命令行一键安装、拉取模型并启动内置聊天界面,亦可作为 OpenAI 兼容服务与现有应用无缝集成。支持 GGUF、ONNX 等多种模型格式和多平台(Windows、Linux、macOS),内置模型管理、性能测试和内存分析功能,极大简化本地 AI 推理环境搭建,适合开发者和企业灵活扩展 LLM 能力。

🎈 【进入项目】


🗣 羊毛撸货线报 | 合作/投稿
🍭 #向量数据库 #本地AI检索


🏵 LEANN - 超轻量本地RAG系统

🍥 简介:
LEANN 是一款极致轻量化的本地向量数据库及RAG(检索增强生成)应用,主打高效存储与完全隐私。它采用独特的图结构与按需计算嵌入技术,能在不损失检索准确度的前提下,节省高达97%的存储空间。支持多种文档格式、邮件、浏览器历史、聊天记录乃至代码库的本地语义检索,数据始终保留在设备本地,无需云端依赖。LEANN还兼容主流大模型和Claude Code,具备灵活的扩展性,非常适合个人AI助手、智能知识库等隐私和效率并重的开发场景。

🎈 【进入项目】


🗣 羊毛撸货线报 | 合作/投稿
🍭 #本地AI助手 #隐私保护


🏵 NativeMind - 私有本地智能助手

🍥 简介:
NativeMind 是一款完全本地运行的开源AI助手浏览器扩展,专注隐私保护,无需云端依赖。它集成 Ollama 与 WebLLM,可在 Chrome、Firefox、Edge 等主流浏览器内直接调用本地大模型,实现网页内容理解、智能搜索、PDF与图片对话、多语言翻译、写作辅助等多项功能。所有数据均在本地处理,不上传服务器,保障个人信息安全。安装简单,支持模型灵活切换,适合对隐私和效率有高要求的用户和开发者,助力打造个性化AI工作流。

🎈 【进入项目】


🗣 羊毛撸货线报 | 合作/投稿
🗣 每日羊毛线报 👈


🏵 XandAI Extension - 浏览器AI交互助手

🍥 简介:
XandAI Extension 是一款现代化 Chrome 扩展,支持与本地 Ollama LLM 模型直接交互。用户可在任意网页选取文本,通过右键菜单或独立聊天窗口即时调用 AI 进行分析、总结、翻译等多种操作。插件支持自动模型下载与管理,实时状态监控,自带高级 Markdown 渲染与代码高亮,所有数据本地处理,保障隐私安全。无需云端依赖,适合开发者与知识工作者高效利用本地大模型提升工作效率。

🍭 #Chrome扩展 #本地大模型


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿
🗣 每日羊毛线报 👈


🏵 Lingo.dev - AI驱动的i18n工具

🍥 简介:
Lingo. dev 是一款开源、AI 驱动的国际化(i18n)工具包,利用大型语言模型(LLM)实现快速本地化。其编译器中间件可在构建时使 React 应用支持多语言,无需修改现有组件。它与 Next.js、Vite 和 React Router 集成,通过处理 React 代码的 AST,识别可翻译内容,并嵌入翻译结果。

🍭 #i18n #本地化 #AI


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿
🗣 每日羊毛线报 👈


🏵 act - 本地运行GitHub Actions

🍥 简介:
act 允许你在本地运行 GitHub Actions,无需每次修改 workflow 文件或嵌入的 Actions 都提交/推送代码。它模拟 GitHub 提供的环境(环境变量、文件系统),提供快速反馈。此外,act 还能替代 Makefile,利用 .github/workflows/ 中的 Actions 作为本地任务运行器,避免重复定义任务。通过 Docker API 拉取或构建镜像,确定执行路径,并为每个 Action 运行容器。VS Code 扩展也支持直接管理和运行 act。

🍭 #GitHubActions #本地运行 #自动化测试


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿
🗣 每日羊毛线报 👈


🏵 AgenticSeek - 开源本地化AI智能体

🍥 简介:
AgenticSeek 是一款开源、完全在本地设备运行的 AI 智能体,旨在替代 Manus AI。它无需外部 API 或订阅费用,确保用户数据完全私密。该智能体具备自主思考、网页浏览、编写和执行代码(支持 Python/C/Go/Java 等)、文件系统操作以及复杂任务规划与执行的能力。AgenticSeek 支持语音交互,并能根据用户请求智能分配最合适的内部处理智能体,实现本地化、高隐私的自主 AI 助理体验。

🍭 #AI智能体 #本地运行


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿
Media is too big
VIEW IN TELEGRAM
🗣 每日羊毛线报 👈


🏵 LocalAI - OpenAI 本地替代方案

🍥 简介:
LocalAI 是一个免费、开源的项目,旨在提供 OpenAI、Claude 等云 AI 服务的本地化、自托管替代方案。它扮演着一个与 OpenAI API 规范兼容的“直接替换”(drop-in replacement) REST API 角色,允许开发者在本地或私有服务器上运行 AI 推理任务。其核心特点是支持在消费级硬件上运行多种 AI 模型(包括 LLM 文本生成、图像生成、音频处理等),且无需 GPU。支持 gguf、transformers 等多种模型架构,实现本地 AI 能力部署。

🍭 #本地AI #开源AI


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿
 
 
Back to Top