普林斯顿大学 发布 Lugha-Llama 数据集, 应用在 自然语言处理、非洲语言 领域

普林斯顿大学 本次发布的数据集 Lugha-Llama, Lugha-Llama数据集是基于Llama模型继续预训练得到的，专注于非洲语言。该数据集结合了非洲语言的数据和高质量英文教育文本，以提高模型在非洲语言上的性能。数据集包含了10B的tokens，通过混合WURA语料库和FineWeb-Edu数据集构建而成。Lugha-Llama模型在IrokoBench基准测试中取得了最佳性能，该基准测试涵盖了数学推理、知识问答和自然语言推理等任务。

查看Lugha-Llama

Dataset card 内容： 

Files and versions 内容： 

关于 普林斯顿大学 , 普林斯顿大学是一所位于美国新泽西州的顶级私立研究型大学，以卓越的教学和科研实力闻名于世。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。