🍭 #LLM #本地部署


🏵 Awesome local LLM - 本地大模型工具集

🍥 简介：
这是一个精心整理的开源项目清单，涵盖了用于在本地环境运行大型语言模型（LLM）的各种优秀平台、工具、实践方法与参考资源。旨在为开发者和研究人员提供一套全面的解决方案，以高效部署和管理本地化LLM应用。

🎈 【进入项目】


🗣 活动线报 | 掘金项目

🍭 #本地大模型 #推理加速


🏵 Lemonade - 本地LLM高效部署

🍥 简介：
Lemonade 是一款支持本地大语言模型（LLM）推理加速的部署工具，面向 GPU、NPU 和 CPU 硬件自动优化主流推理引擎配置。用户可通过 GUI 或命令行一键安装、拉取模型并启动内置聊天界面，亦可作为 OpenAI 兼容服务与现有应用无缝集成。支持 GGUF、ONNX 等多种模型格式和多平台（Windows、Linux、macOS），内置模型管理、性能测试和内存分析功能，极大简化本地 AI 推理环境搭建，适合开发者和企业灵活扩展 LLM 能力。

🎈 【进入项目】


🗣 羊毛撸货线报 | 合作/投稿

🗣 每日羊毛线报 👈


🏵 XandAI Extension - 浏览器AI交互助手

🍥 简介：
XandAI Extension 是一款现代化 Chrome 扩展，支持与本地 Ollama LLM 模型直接交互。用户可在任意网页选取文本，通过右键菜单或独立聊天窗口即时调用 AI 进行分析、总结、翻译等多种操作。插件支持自动模型下载与管理，实时状态监控，自带高级 Markdown 渲染与代码高亮，所有数据本地处理，保障隐私安全。无需云端依赖，适合开发者与知识工作者高效利用本地大模型提升工作效率。

🍭 #Chrome扩展 #本地大模型


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿

🗣 每日羊毛线报 👈


🏵 Lingo.dev - AI驱动的i18n工具

🍥 简介：
Lingo. dev 是一款开源、AI 驱动的国际化(i18n)工具包，利用大型语言模型(LLM)实现快速本地化。其编译器中间件可在构建时使 React 应用支持多语言，无需修改现有组件。它与 Next.js、Vite 和 React Router 集成，通过处理 React 代码的 AST，识别可翻译内容，并嵌入翻译结果。

🍭 #i18n #本地化 #AI


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿

🗣 每日羊毛线报 👈


🏵 Clippy - 本地运行复古AI助手

🍥 简介：
Clippy 是一款致敬经典 Office 助手的桌面应用，它允许用户在本地计算机上运行多种大型语言模型 (LLM)。项目基于 Llama.cpp，支持主流 GGUF 格式模型，并内置了对 Google Gemma、Meta Llama 3 等模型的便捷一键安装。用户可以通过熟悉的复古 Clippy 界面与本地 AI 进行离线交互，无需复杂配置，同时它也为 Electron 开发者提供了本地 LLM 集成的参考实现。

🍭 #本地LLM #桌面应用


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿

0:42

Media is too big

VIEW IN TELEGRAM

🗣 每日羊毛线报 👈


🏵 LocalAI - OpenAI 本地替代方案

🍥 简介：
LocalAI 是一个免费、开源的项目，旨在提供 OpenAI、Claude 等云 AI 服务的本地化、自托管替代方案。它扮演着一个与 OpenAI API 规范兼容的“直接替换”(drop-in replacement) REST API 角色，允许开发者在本地或私有服务器上运行 AI 推理任务。其核心特点是支持在消费级硬件上运行多种 AI 模型（包括 LLM 文本生成、图像生成、音频处理等），且无需 GPU。支持 gguf、transformers 等多种模型架构，实现本地 AI 能力部署。

🍭 #本地AI #开源AI


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿

🗣 每日羊毛线报 👈


🏵 Sidekick - 本地LLM聊天助手

🍥 简介：
Sidekick 是一款原生 macOS 应用程序，允许用户与本地大型语言模型（LLM）进行对话，模型能够从 Mac 上的文件、文件夹和网站中提取信息并生成响应，且无需安装其他软件。该应用基于 llama.cpp 构建，所有对话均在离线环境下进行，数据也仅保存在本地。通过 RAG（检索增强生成）技术，Sidekick 能够从用户配置的“专家”资源中检索相关信息，支持无限量的资源输入，远超大多数服务的限制。例如，用户可以为不同学科（如文学、数学、地理等）创建独立的“专家”，并激活相关“专家”以获取特定领域的精准回答。

🍭 #本地LLM #离线聊天 #RAG技术


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿