蒙纳士大学 发布 BigCodeBench 数据集, 应用在 编程任务评估、自动化软件工程 领域

蒙纳士大学 本次发布的数据集 BigCodeBench, BigCodeBench是由蒙纳士大学等机构创建的一个编程任务基准数据集，包含1140个细粒度的编程任务，涉及139个库和7个领域。该数据集通过LLM和人类专家的合作构建，旨在评估大型语言模型在解决复杂和实际编程任务中的能力。数据集内容丰富，覆盖多种编程场景，如代码完成和指令到代码的转换。创建过程中，数据集通过严格的测试案例和环境设置来验证程序行为，确保数据质量。BigCodeBench主要用于评估和推动自动化软件工程领域的发展，特别是在代码生成和复杂指令理解方面。

查看BigCodeBench

关于 蒙纳士大学 , 蒙纳士大学是一所位于澳大利亚墨尔本的顶尖综合性大学，以其卓越的教学和研究成果在全球享有盛誉。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。