北京大学 发布 LongABC-32K 数据集, 应用在 自然语言处理、机器学习 领域

北京大学 本次发布的数据集 LongABC-32K, LongABC-32K数据集是由北京大学等研究机构创建的高质量长语境训练数据集。该数据集通过开源的长语境数据集（ArXiv、书籍和代码）进行过滤得到，包含了强大的长距离依赖性。数据集的大小为32k tokens，是为了在捕获长距离依赖性和保持合理的计算复杂性之间取得平衡。该数据集的创建是为了增强大型语言模型处理长语境的能力，并已发布以促进未来长语境数据的研究。

查看LongABC-32K

README 内容： 

关于 北京大学 , 北京大学是中国著名的高等教育机构，主要负责培养高等学历人才，致力于促进科技文化的发展。学校提供多层次的学历教育，包括医学、教育学、哲学、经济学、法学、文学、历史学、理学、工学、管理学等各类学科的专科、本科、硕士和博士研究生学历教育，同时还进行博士后培养。在数据资源方面，北京大学拥有丰富多样的数据集，这些数据集涵盖了各个学科的广泛领域，虽然具体数据集特点各异，但都体现了北大学术研究的深度和广度。通过这些数据集，可以一窥北大在科研和教育方面的实力与成果。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。