密歇根大学 发布 EXPERTLONGBENCH 数据集, 应用在 自然语言处理、模型评估 领域

密歇根大学 本次发布的数据集 EXPERTLONGBENCH, EXPERTLONGBENCH是一个包含11个任务的专家级基准数据集，这些任务来自9个领域，反映了现实世界中的专家工作流程和应用。该数据集要求模型生成超过5000个token的长期输出，并严格遵守特定领域的需求。每个任务都包含一个评分标准，由领域专家设计或验证，以指定任务要求并指导输出评估。此外，该研究提出了CLEAR评估框架，支持对长格式模型输出的准确评估。EXPERTLONGBENCH共包含11个大型语言模型（LLMs），并分析了CLEAR框架的各个组件，表明现有LLMs需要显著改进以应对专家级任务。

查看EXPERTLONGBENCH

Files and versions 内容： 

关于 密歇根大学 , 密歇根大学是一所位于美国密歇根州安娜堡的公立研究型大学，是美国著名的大学之一，提供广泛的本科、研究生和专业学位课程。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。