中国科学院成都计算机应用研究所 发布 GovRelBench 数据集, 应用在 自然语言处理、政府领域 领域

中国科学院成都计算机应用研究所 本次发布的数据集 GovRelBench, GovRelBench是一个专为评估大型语言模型（LLMs）在政府领域核心能力的基准数据集。它包含50个测试提示和一个专门的评估工具GovRelBERT。GovRelBench的创建旨在通过评估模型输出与政府领域的相关性来衡量其性能，从而弥补当前评估模型在政府领域核心能力方面的不足。GovRelBench的创建过程涉及使用自爬取数据结合从开源数据集中筛选出的特定领域数据，并应用SoftGovScore方法进行训练。该数据集的应用领域主要集中在政府领域，旨在解决评估模型在政府领域内表现的问题。

查看GovRelBench

README 内容： 

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。