阿里巴巴集团 本次发布的数据集 CODEELO, CODEELO 是由阿里巴巴集团开发的一个标准化竞赛级代码生成基准测试,基于 CodeForces 平台,旨在评估大型语言模型(LLMs)在竞赛级代码生成中的表现。该数据集包含来自 CodeForces 平台最近六个月的竞赛题目,涵盖了不同难度等级和算法标签。通过直接提交代码到 CodeForces 平台进行评测,CODEELO 确保了零误判,并支持特殊评测程序,提供了与人类参与者可比的 Elo 评分。该数据集的应用领域主要集中在评估和改进 LLMs 的代码生成能力,特别是在竞赛级编程任务中的表现。
关于 阿里巴巴集团 , 阿里巴巴集团是中国最大的电子商务公司之一,成立于1999年,总部位于杭州。公司业务涵盖电子商务、云计算、数字媒体和娱乐等多个领域,是全球领先的互联网科技公司之一。
关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库,涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。





_1769672084863.jpg)