Together Computer 发布 RedPajama-1B 数据集, 应用在 自然语言处理、机器学习 领域

Together Computer 本次发布的数据集 RedPajama-1B, 该数据集名为RedPajama-1B，包含了来自不同领域的数据样本，如Arxiv、Wikipedia、书籍、Common-Crawl、C4、Stackexchange和Github。该数据集被用于评估不可约课程学习算法在语言模型训练中的有效性。它是一个大规模的数据集，包含了来自7个领域的数据样本，所涉及的任务是语言模型的预训练。

查看RedPajama-1B

Dataset card 内容： 

Files and versions 内容： 

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。