挖掘有趣 Github 的猫。


有事联系:https://t.me/qumao?direct
#LocalAI #AI #开源


🏵 #程序 | LocalAI - 本地人工智能

🍥 简介:
LocalAI是一个基于go语言编写的本地OpenAI兼容API,可以作为OpenAI的替代品,在普通硬件的CPU上运行。它支持ggml兼容的模型,例如:LLaMA, alpaca, gpt4all, vicuna, koala, gpt4all-j, cerebras。LocalAI可以实现快速的本地CPU推理,基于llama.cpp, gpt4all和ggml,包括支持GPT4ALL-J,它是Apache 2.0许可的,可以用于商业目的。使用C绑定而不是外部命令,提高了推理速度和性能。


🎈 【进入项目】


🫥 关注频道 🤖 合作/投稿
 
 
Back to Top