伦敦大学学院 发布 TransWeb-Edu 数据集, 应用在 多语言处理、教育数据 领域

伦敦大学学院 本次发布的数据集 TransWeb-Edu, TransWeb-Edu是由伦敦大学学院人工智能中心创建的多语言预训练数据集，通过将高质量的英语网络数据集FineWeb-Edu翻译成法语、德语和西班牙语而生成。该数据集包含约3000亿个Tokens，覆盖了教育领域的内容。创建过程中使用了Mistral-7B-Instruct翻译模型，确保了翻译质量。TransWeb-Edu主要用于训练多语言大型语言模型（LLMs），旨在提升非英语语言的模型性能，特别是在推理任务中的表现。

查看TransWeb-Edu

关于 伦敦大学学院 , 伦敦大学学院（University College London，简称UCL）是英国顶尖的综合性研究型大学，位于伦敦市中心，成立于1826年。它是伦敦大学系统的创始学院之一，也是英国第一所不分种族、阶级或宗教信仰招收学生的大学。UCL在多个学科领域享有盛誉，尤其在医学、法律、经济学和工程学方面表现突出。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。