CentraleSupélec 发布 EuroBERT 数据集, 应用在 自然语言处理、机器学习 领域

CentraleSupélec 本次发布的数据集 EuroBERT, EuroBERT是一个多语言编码器家族，由MICS, CentraleSupélec, Université Paris-Saclay等机构的研究人员开发。该数据集包含了一个5000亿规模的多元语言语料库，涵盖了欧洲语言和全球广泛使用的语言，以及数学和代码。数据集的创建旨在支持多语言能力、数学和编码等任务，并原生支持最长8192个token的序列。该数据集的描述和训练管道已经公布，并且EuroBERT模型、中间训练检查点以及训练框架已经公开。

查看EuroBERT

Dataset card 内容： 

Files and versions 内容： 

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。