中国科学院 发布 C4 数据集, 应用在 自然语言处理、预训练模型 领域

中国科学院 本次发布的数据集 C4, C4数据集是由中国信息处理实验室等机构创建的一个大型无标签文本语料库，广泛用于大型语言模型的预训练。该数据集包含约4亿个经过清洗的文本段落，来源于多种高质量的非结构化文本资源。创建过程中，采用了启发式规则筛选出结构良好、内容有价值的部分，并通过生成指令和响应重写的方式提高了数据质量。C4数据集主要应用于大型语言模型的指令调优，旨在提升模型在零样本学习和其他自然语言处理任务中的性能。

查看C4

关于 中国科学院 , 中国科学院是中国最高的学术机构和综合性科学研究机构，致力于推动科学技术的发展和应用，为国家的发展和人类社会的进步做出贡献。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。