🍭 #机器学习 #模型训练 #AppleSilicon

🏵 MLX-GRPO - 基于MLX框架的GRPO模型训练工具

🍥 简介：
该框架专为Apple Silicon平台设计，基于Metal后端运行，实现了大规模语言模型的组相对策略优化（GRPO）训练。项目完整支持在无CUDA环境下进行模型微调，流程涵盖数据集构建、奖励函数定义及GRPO算法执行。通过MLX原生架构，旨在为苹果设备提供高效的强化学习训练解决方案，简化大语言模型优化链路。

🎈 【进入项目】


🗣 活动线报 | 掘金项目

🗣 每日羊毛线报 👈


🏵 model2vec-rs - 快速静态嵌入生成

🍥 简介：
model2vec-rs 是 Model2Vec 的官方 Rust 实现，提供高效的静态嵌入模型推理能力。Model2Vec 是一种从句子转换器创建紧凑且快速的静态嵌入模型的技术，显著减小模型大小并提高推理速度。该 Rust crate 针对性能进行了优化，适用于需要快速生成嵌入的应用程序。支持从 Hugging Face Hub 加载预训练模型，并提供 CLI 工具进行快速推理。

🍭 #静态嵌入 #Rust #模型推理


🎈 【进入项目】


🎯 关注频道 🤖 合作/投稿