Cohere 发布 Less Basic Python Problems (LBPP) 数据集, 应用在 代码生成、模型评估 领域

Cohere 本次发布的数据集 Less Basic Python Problems (LBPP), Less Basic Python Problems (LBPP)数据集由Cohere机构创建，包含161个代码生成问题的提示及其Python解决方案。该数据集旨在评估大型语言模型在代码生成方面的能力，特别设计以减少数据泄露的风险。LBPP数据集的创建过程严格，由具有竞争编程经验的标注者手工制作，确保问题的新颖性和难度。该数据集主要应用于评估和防止模型在代码生成任务中的过拟合问题。

查看Less Basic Python Problems (LBPP)

Dataset card 内容： 

Files and versions 内容： 

关于 Cohere , Cohere是一家专注于自然语言处理的人工智能初创公司。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。