🏵 Sidekick - 本地LLM聊天助手
🍥 简介:
Sidekick 是一款原生 macOS 应用程序,允许用户与本地大型语言模型(LLM)进行对话,模型能够从 Mac 上的文件、文件夹和网站中提取信息并生成响应,且无需安装其他软件。该应用基于 llama.cpp 构建,所有对话均在离线环境下进行,数据也仅保存在本地。通过 RAG(检索增强生成)技术,Sidekick 能够从用户配置的“专家”资源中检索相关信息,支持无限量的资源输入,远超大多数服务的限制。例如,用户可以为不同学科(如文学、数学、地理等)创建独立的“专家”,并激活相关“专家”以获取特定领域的精准回答。
🍭 #本地LLM #离线聊天 #RAG技术
🎈 【进入项目】
🎯 关注频道 🤖 合作/投稿