腾讯AI实验室 发布 Master-RM数据集 数据集, 应用在 强化学习、模型鲁棒性 领域

腾讯AI实验室 本次发布的数据集 Master-RM数据集, Master-RM数据集是腾讯AI实验室、普林斯顿大学和弗吉尼亚大学的研究人员为了提高生成性奖励模型在强化学习中的鲁棒性而创建的。该数据集包含180,000条训练数据，旨在训练一个对“master keys”攻击具有高度鲁棒性的生成性奖励模型。数据集由两部分组成：原始的160,000条有效训练数据和一个20,000条的合成负样本集。合成负样本集是通过截断模型输出来构造的，保留了每条回答的第一句话，这些话通常是通用的框架或高级推理引导语，类似于推理开放者。该数据集可用于训练新的生成性奖励模型，以提高其在不同数据集上的鲁棒性。

查看Master-RM数据集

Dataset card 内容： 

Files and versions 内容： 

关于 腾讯AI实验室 , 腾讯AI实验室是腾讯公司下属的研发机构，专注于人工智能领域的研究，包括机器学习、计算机视觉、语音识别、自然语言处理等多个方向，致力于将人工智能技术应用到实际产品和服务中。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。