意大利巴斯蒂亚塔大学 发布 RelationalFactQA 数据集, 应用在 自然语言处理、机器学习评估 领域

意大利巴斯蒂亚塔大学 本次发布的数据集 RelationalFactQA, RelationalFactQA数据集是一个用于评估大型语言模型（LLMs）从其内部参数知识中检索结构化、多记录表格输出的能力的新基准。该数据集包含696个问题、查询和答案三元组，涵盖九个知识领域，每个三元组都配有一个自然语言查询、等效的SQL语句和完全验证的黄金标准表格。该数据集旨在评估LLMs在生成结构化事实性知识方面的能力，特别是当输出维度（如属性或记录的数量）增加时。该数据集由手动和半自动生成，确保了多样性、可控的复杂性和覆盖范围。

查看RelationalFactQA

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。