BigCode 发布 StarCoderData 数据集, 应用在 编程语言处理、代码生成 领域

BigCode 本次发布的数据集 StarCoderData, 该数据集是从The Stack v1精心挑选的，用于训练StarCoderBase模型，特别是其中的一部分被用于构建NT-Java-1.1B模型。此外，该数据集还用于训练一个专门的Java代码语言模型，旨在执行Java编程任务。其规模达到了220亿个Java标记，任务是对Java代码语言模型进行训练。

查看StarCoderData

Dataset card 内容： 

Files and versions 内容： 

关于 BigCode , BigCode是一个专注于大数据分析和人工智能研究的组织，致力于开发和应用先进的数据处理技术。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。