五号数据雷达

浙江大学 本次发布的数据集 DataPajama, DataPajama数据集是由浙江大学和阿里巴巴集团共同创建的，包含447亿个Token的预训练语料库。该数据集通过DataMan工具进行了质量评分和领域类型的标注，旨在优化大型语言模型的预训练过程。数据集涵盖了14个质量标准，包括准确性、连贯性、语言一致性、语义密度等，并分为15个常见应用领域，如医学、金融、法律等。DataPajama的构建是为了帮助大型语言模型在特定领域内提高上下文学习性能。

查看DataPajama

关于 浙江大学 , 浙江大学是中国一所历史悠久、学科全面、科研实力雄厚的顶尖综合性大学。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。