Meta AI 发布 LongTail-Swap (LT-Swap) 数据集, 应用在 自然语言处理、语言模型评估 领域

Meta AI 本次发布的数据集 LongTail-Swap (LT-Swap), LongTail-Swap (LT-Swap) 是一个用于评估语言模型在处理低频词方面的能力的基准数据集。该数据集由元AI和EHESS共同创建，旨在解决当前语言模型在低频词上的学习困难。数据集包含两个子任务：WordSwap和InflectionSwap，分别用于评估语言模型在语义和语法方面的能力。该数据集适用于任何文本语料库，并已在BabyLM数据集上进行了评估。

查看LongTail-Swap (LT-Swap)

关于 Meta AI , Meta AI是Meta公司的研究机构，专注于人工智能领域的研究与开发，涵盖机器学习、计算机视觉、自然语言处理等多个方面。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。