TMLR Group 发布 AR-Bench 数据集, 应用在 自然语言处理、主动推理 领域

TMLR Group 本次发布的数据集 AR-Bench, 该数据集名为AR-Bench，旨在通过三种任务类型：侦探案件、情境谜题和猜数字，来评估大型语言模型（LLM）的主动推理能力。该基准测试在常识推理、逻辑推理和符号推理挑战方面评估表现，突显了LLM在主动推理场景中所面临的困难。任务的名称为“主动推理评估”。

查看AR-Bench

README 内容： 

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。