NVIDIA发布Nemotron-RL-Super-Training-Blends数据集,应用在强化学习、大语言模型领域

NVIDIA本次发布的数据集Nemotron-RL-Super-Training-Blends,Nemotron-3-Super-RL-Training-Blends 是一个用于训练 Nemotron-3-Super-120B-A12B 模型的强化学习数据集混合集。该数据集包含6个训练阶段（RLVR 1-3、SWE 1-2和RLHF）的混合数据，每个阶段由多个不同比例的子数据集组成。数据集总规模为479,303个样本，26.3GB，以JSONL格式存储。数据来源包括数学证明、工具使用、编程竞赛、安全评估等多个领域，采用人工与合成相结合的收集和标注方法。该数据集专为与NeMo Gym框架配合使用而设计，适用于大语言模型的强化学习后训练。数据集采用CC-BY 4.0许可，包含Apache 2.0、MIT和BSD-3附加条款，允许商业使用。

查看Nemotron-RL-Super-Training-Blends

关于NVIDIA,英伟达是一家专注于图形处理器开发的全球知名技术公司。

关于HuggingFace,Hugging Face是一个机器学习社区协作平台，专注于模型、数据集和应用程序的开发与分享。它提供了丰富的资源，包括超过100万个模型、25万个数据集和40万个应用程序，支持文本、图像、视频、音频和3D等多种模态。此外，平台还提供企业级解决方案和开源工具，如Transformers、Diffusers等，以加速机器学习的研究和应用。