🏵 ColossalAI - 并行AI训练降本增效
🍥 简介:
ColossalAI是一个开源的深度学习平台,专为大规模并行AI模型训练和推理设计。它提供了一系列并行组件,支持分布式训练,优化深度学习项目的速度和规模。
🪝 #ColossalAI #ai
🎈 【进入项目】
🎯 关注频道 🤖 合作/投稿
🏵 #程序 | LocalAI - 本地人工智能
🍥 简介:
LocalAI是一个基于go语言编写的本地OpenAI兼容API,可以作为OpenAI的替代品,在普通硬件的CPU上运行。它支持ggml兼容的模型,例如:LLaMA, alpaca, gpt4all, vicuna, koala, gpt4all-j, cerebras。LocalAI可以实现快速的本地CPU推理,基于llama.cpp, gpt4all和ggml,包括支持GPT4ALL-J,它是Apache 2.0许可的,可以用于商业目的。使用C绑定而不是外部命令,提高了推理速度和性能。
🎈 【进入项目】
🫥 关注频道 🤖 合作/投稿