武汉大学 发布 ProJudgeBench 和 ProJudge-173k 数据集, 应用在 模型评估、推理过程 领域

武汉大学 本次发布的数据集 ProJudgeBench 和 ProJudge-173k, ProJudgeBench是一个专门为评估多模态大型语言模型（MLLM）作为过程评判员的能力而设计的全面基准。该数据集包含2400个测试案例和50118个步骤级别的标签，涵盖数学、物理、化学和生物学四个学科，难度多样，内容多模态。每个步骤都由人类专家精心标注正确性、错误类型和解释，使得可以对评判员检测、分类和诊断错误的能力进行系统评估。ProJudge-173k是一个大规模的指令微调数据集，旨在对步骤-by-step推理进行细致评估。

查看ProJudgeBench 和 ProJudge-173k

README 内容： 

关于 武汉大学 , 武汉大学是中国的一所综合性研究型大学，位于湖北省武汉市，是中国教育部直属的全国重点大学，也是‘211工程’和‘985工程’重点支持的大学之一。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。