布加勒斯特理工大学 发布 FuLG 数据集, 应用在 预训练语料库、罗马尼亚语处理 领域

布加勒斯特理工大学 本次发布的数据集 FuLG, FuLG数据集由布加勒斯特理工大学开发，是一个包含1560亿个token的罗马尼亚语预训练语料库。该数据集从CommonCrawl中提取，经过去重和内容过滤等处理步骤，确保数据质量和多样性。创建过程包括使用FastText进行语言识别和CCNet进行数据处理。FuLG主要用于提升罗马尼亚语在大型语言模型中的表现，解决该语言在现有模型中代表性不足的问题。

查看FuLG

关于 布加勒斯特理工大学 , 布加勒斯特理工大学是罗马尼亚的一所著名理工科大学，位于首都布加勒斯特，提供广泛的工程和技术学科的教育和研究。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。