清华大学 发布 RM-BENCH 数据集, 应用在 奖励模型评估、语言模型对齐 领域

清华大学 本次发布的数据集 RM-BENCH, RM-BENCH是由清华大学开发的一个新型基准数据集，旨在评估奖励模型对细微内容差异的敏感性和对风格偏差的抵抗力。该数据集包含四个关键领域：聊天、代码、数学和安全，涵盖了广泛的现实场景。数据集通过使用相同的强大语言模型生成选定和拒绝的响应，并引入风格控制变体来评估奖励模型的偏差。RM-BENCH的设计旨在解决现有奖励模型在评估细微内容变化和风格偏差方面的不足，从而提高语言模型对齐的准确性。

查看RM-BENCH

README 内容： 

关于 清华大学 , 清华大学，位于中国北京，是一所享誉全球的顶尖研究型大学，以其深厚的学术底蕴和杰出的科研能力而著称。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。