英伟达 发布 SimpleBooks 数据集, 应用在 语言模型训练、数据集优化 领域

英伟达 本次发布的数据集 SimpleBooks, SimpleBooks是一个专为语言模型训练设计的小型数据集，由英伟达创建。该数据集包含92M个单词级别的令牌，词汇量为98K，远小于同等规模的WikiText-103。数据来源于1,573本Gutenberg书籍，这些书籍因其单词长度与词汇量的高比率而被选中。创建过程中，书籍经过筛选和预处理，保留了原始的案例和标点符号。SimpleBooks适用于快速实验和架构搜索，旨在解决大型数据集在模型训练中的成本和效率问题。

查看SimpleBooks

关于 英伟达 , 英伟达是一家专注于图形处理器开发的全球知名技术公司。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。