University of Campinas 发布 ClassiCC-PT 数据集, 应用在 自然语言处理、机器学习 领域

University of Campinas 本次发布的数据集 ClassiCC-PT, ClassiCC-PT是一个包含120B个Tokens的葡萄牙语大型网络语料库，由Common Crawl项目的大规模网络爬取构建而成。数据集通过多种预处理和过滤技术进行优化，包括文本清洗、去重和内容分类，旨在构建高质量、语言特定的数据集。该数据集的创建过程包括从HTML页面中提取文本，使用基于规则和神经网络的过滤方法进行数据选择，并通过持续预训练的方法来提升模型在目标语言上的性能。ClassiCC-PT数据集的应用领域是大型语言模型（LLMs）的构建和优化，旨在解决LLMs在非英语语言上的性能提升问题。

查看ClassiCC-PT

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。