代尔夫特理工大学 发布 The Heap 数据集, 应用在 代码数据集、语言模型评估 领域

代尔夫特理工大学 本次发布的数据集 The Heap, The Heap 是一个由代尔夫特理工大学创建的多语言代码数据集，旨在为大型语言模型的评估提供无污染的数据。该数据集涵盖了57种编程语言，包含733,663个代码仓库，总计96,990,250个原始文件和38,681,609个去重后的文件。数据来源于GitHub，通过非宽松许可证筛选和去重处理，确保与其他公开数据集无重叠。数据集的应用领域主要集中在大型语言模型的评估，旨在解决数据污染问题，确保模型评估的公平性和准确性。

查看The Heap

Dataset card 内容： 

Files and versions 内容： 

关于 代尔夫特理工大学 , 代尔夫特理工大学是荷兰领先的研究型大学之一，以其在工程、设计和管理学领域的优秀教育和创新研究而闻名。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。