MMMU 发布 MMMU-Pro 数据集, 应用在 多模态理解、AI模型评估 领域

MMMU 本次发布的数据集 MMMU-Pro, MMMU-Pro是由MMMU团队创建的多学科多模态理解与推理基准数据集，包含3460个精心策划的多模态问题，涵盖六个核心学科。数据集通过过滤可由纯文本模型回答的问题、增加候选选项和引入仅视觉输入设置，严格评估模型的多模态理解和推理能力。创建过程中，数据集通过人工验证和多样化的视觉输入设置，确保问题的高质量和挑战性。MMMU-Pro主要应用于评估和提升多模态AI模型的理解和推理能力，旨在解决当前模型在多模态任务中的局限性。

查看MMMU-Pro

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。