#FlexGen #开源


🎈 #程序 | FlexGen - 高吞吐量生成引擎

🎯 简介：
FlexGen 是一种高吞吐量生成引擎，用于运行具有有限 GPU 内存的大型语言模型。使用户能够在单个 GPU 上运行 OPT-175B/GPT-3 等大型语言模型。


📍 【进入项目】


🫥 关注频道 🎯 合作/投稿