本次发布的数据集 rSDE-Bench, 该数据集是一个面向需求导向的软件开发基准,包含了复杂多样的软件需求,并具备对需求正确性进行自动评估的功能。此外,该自动评估指标(准确性)与人工评估高度一致,相关系数达到了0.9922。该数据集的任务是对软件需求进行评估,同时考察编码能力。
关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库,涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。





_1769672084863.jpg)