斯坦福大学 发布 STARK 数据集, 应用在 知识库检索、语言模型评估 领域

斯坦福大学 本次发布的数据集 STARK, STARK是一个大规模的半结构化文本和关系知识库检索基准，由斯坦福大学计算机科学系开发。该基准包含三个数据集：产品搜索、学术论文搜索和精准医学查询，旨在评估大型语言模型在处理复杂查询时的性能。STARK通过设计新颖的流程合成真实用户查询，并结合其正确答案（项目），进行严格的人工评估以验证查询质量。此外，还增加了高质量的人工生成查询，以提供真实的参考。STARK为评估检索系统在半结构化知识库上的表现提供了一个全面的测试平台，揭示了当前检索和语言模型系统面临的挑战，并指出了构建更高效检索系统的需求。

查看STARK

README 内容： 

关于 斯坦福大学 , 斯坦福大学是一所位于美国加利福尼亚州的私立研究型大学，以其卓越的教育和研究成果在全球享有盛誉。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。