IBM Research 发布 WatsonxQA (ProductDocs) 数据集, 应用在 自然语言处理、问答系统 领域

IBM Research 本次发布的数据集 WatsonxQA (ProductDocs), 该数据集由IBM Research收集，用于研究检索增强生成(RAG)超参数优化。这是一个基于企业产品文档的新开源数据集，包含从1144页HTML产品文档生成的5534个子文档。数据集包括75个问答对和金标准文档标签，其中25个由两位主题专家生成，其余的则是通过合成并经过两位作者的手动过滤和审查。这些数据集在许多方面都表现出多样性，它们代表不同的领域——研究论文、生物医学文档、维基百科页面和企业数据。它们在问题和答案长度上也有所不同；例如，MiniWiki的答案相对较短，而ClapNQ是专门为具有长答案而构建的。语料库的大小也各不相同，反映了在小型或大型文档集上的真实世界检索场景。每个基准数据集都被分为开发和测试集。为了使计算可行，大型基准数据集（BioASQ和ClapNQ）中的问题数量被限制为开发和测试分别为1000和150。

查看WatsonxQA (ProductDocs)

Dataset card 内容： 

Files and versions 内容： 

关于 IBM Research , IBM研究院是国际商业机器公司（IBM）旗下的研究机构，成立于1945年。该研究院致力于推动计算机科学、人工智能、量子计算等领域的技术创新，是全球领先的科技研究机构之一。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。