Common Crawl 发布 UnifiedCrawl-Amharic 数据集, 应用在 自然语言处理、阿姆哈拉语资源 领域

Common Crawl 本次发布的数据集 UnifiedCrawl-Amharic, 该数据集是从Common Crawl语料库中提取的单语种数据集，专注于阿姆哈拉语。它采用了一种高效筛选和提取文本数据的方法。该数据集特别为资源较少的语言设计，尤其是阿姆哈拉语，并在语言建模和少量样本提示得分方面展示了改进。其规模超过了之前为资源较少语言提供的任何资源，其任务是微调多语言大型语言模型。

查看UnifiedCrawl-Amharic

README 内容： 

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。