北京邮电大学 发布 Generalized Associative Recall (GAR) 数据集, 应用在 大型语言模型、组合关系推理 领域

北京邮电大学 本次发布的数据集 Generalized Associative Recall (GAR), Generalized Associative Recall (GAR)数据集由北京邮电大学提出，旨在评估大型语言模型在组合关系推理（CRR）任务中的表现。该数据集包含192个生成任务和192个分类任务，共计4608个示例，涵盖多种形式和难度级别。数据集通过自动生成任务，结合不同的语义和句法变体，确保任务的多样性和挑战性。GAR数据集主要用于系统性研究LLMs在CRR任务中的机制和性能，揭示其在复杂推理任务中的不足。

查看Generalized Associative Recall (GAR)

README 内容： 

关于 北京邮电大学 , 北京邮电大学是中国的一所以信息科技为特色的重点大学，位于北京市，以其在通信工程、计算机科学和电子信息等领域的研究和教育而闻名。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。