Hugging Face 发布 ROOTS Corpus 数据集, 应用在 多语言数据集、语言模型训练 领域

Hugging Face 本次发布的数据集 ROOTS Corpus, ROOTS Corpus是一个1.6TB的多语言数据集，由国际多学科倡议BigScience研讨会形成，旨在研究和训练大型语言模型。该数据集覆盖59种语言，包括46种自然语言和13种编程语言，用于训练具有1760亿参数的BLOOM语言模型。数据集的创建和整理工作由BigScience负责，旨在通过开放科学和协作，将伦理、危害和治理问题置于前沿。此外，该数据集还发布了一个大型初始子集及其分析，旨在通过数据和处理工具支持大规模单语和多语建模项目，并促进对该大型多语言数据集的研究。

查看ROOTS Corpus

关于 Hugging Face , Hugging Face是一家专注于自然语言处理和人工智能领域的公司，提供丰富的预训练模型和工具，支持开发者在NLP任务中快速构建和部署高效的解决方案。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。