🍭 #PDF处理 #数据清洗 #大模型训练


🏵 Olmocr - PDF文档转换为LLM训练数据


🍥 简介：
Olmocr 是一套专门用于 PDF 文档线性化处理的工具集。该程序能够从复杂的 PDF 结构中提取并转换文本及布局信息，将其转化为适合大语言模型（LLM）训练的高质量数据集格式，从而优化模型对文档类数据的理解与分析能力。


🎈 【进入项目】


🗣 活动线报 | 掘金项目

🍭 #大语言模型 #模型量化 #显存优化


🏵 ExVRAM Lab - 低显存运行大语言模型


🍥 简介：
ExVRAM Lab 是一个开源研究项目，旨在解决大语言模型在消费级显卡中显存不足的问题。该项目通过超低比特量化技术、显存驻留优化方案以及内存感知的运行时配置，有效降低了模型推理的硬件门槛。该工具整合了现有的开源推理技术，使配置较低的计算设备能够支持更大规模参数模型的运行，提升了模型部署的灵活性与资源利用效率。


🎈 【进入项目】


🗣 活动线报 | 掘金项目

🍭 #AI工具 #开发框架 #大语言模型


🏵 RLMs - 大语言模型任务分解与循环调用框架

🍥 简介：
RLMs框架旨在优化大语言模型对复杂长文本任务的处理能力。通过将大规模任务递归拆解为小型单元并支持循环调用，该系统能显著提升处理效率。核心特性包含本地及隔离环境下的代码执行支持，兼容主流模型服务商，并集成完善的模型训练与运行日志记录功能，适用于构建高度可扩展的自动化智能应用。

🎈 【进入项目】


🗣 活动线报 | 掘金项目

🍭 #AI开发工具 #大模型优化

🏵 Headroom - AI模型提示词与上下文压缩工具

🍥 简介：
Headroom 是一款本地化AI代理工具，通过压缩提示词、日志、文件及对话历史，显著降低LLM交互的Token消耗。该工具在保持输出质量的前提下，可实现60%至95%的压缩率。支持作为独立库、代理服务器、MCP服务器或代理包装器使用，在节省成本、提升处理速度的同时，支持完整还原原始数据，满足高效开发需求。

🎈 【进入项目】


🗣 活动线报 | 掘金项目

🍭 #大模型 #强化学习


🏵 Slime - 大模型强化学习框架

🍥 简介：
Slime 是一个专注于大型语言模型（LLMs）后训练的框架，旨在有效整合强化学习（RL）范式。该框架提供了一套工具和方法，使得LLMs能够在RL环境中进行扩展和优化，以处理更复杂的任务并提升决策能力。通过Slime，研究人员和开发者可以更便捷地探索LLMs在各种交互式场景中的应用潜力，推动LLMs与RL技术的深度融合，从而实现更智能、更自主的AI系统。

🎈 【进入项目】


🗣 活动线报 | 掘金项目