北京大学 发布 FEA-Bench 数据集, 应用在 软件开发、机器学习评估 领域

北京大学 本次发布的数据集 FEA-Bench, FEA-Bench是一个评估大型语言模型在代码库级别进行增量开发能力的基准。该数据集由83个GitHub代码库中的pull requests构成，专注于新特性开发的任务实例。每个任务实例包含代码更改和相应的单元测试文件，以确保解决方案的可验证性。数据集的创建是通过解析和基于意图的筛选方法来构建的，旨在评估LLMs在代码库中实现新特性的能力。

查看FEA-Bench

关于 北京大学 , 北京大学是中国著名的高等教育机构，主要负责培养高等学历人才，致力于促进科技文化的发展。学校提供多层次的学历教育，包括医学、教育学、哲学、经济学、法学、文学、历史学、理学、工学、管理学等各类学科的专科、本科、硕士和博士研究生学历教育，同时还进行博士后培养。在数据资源方面，北京大学拥有丰富多样的数据集，这些数据集涵盖了各个学科的广泛领域，虽然具体数据集特点各异，但都体现了北大学术研究的深度和广度。通过这些数据集，可以一窥北大在科研和教育方面的实力与成果。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。