Vectara, Inc. 发布 FaithBench 数据集, 应用在 语言模型评估、幻觉检测 领域

Vectara, Inc. 本次发布的数据集 FaithBench, FaithBench是由Vectara, Inc.创建的一个用于评估现代大型语言模型（LLMs）在摘要生成中幻觉现象的多样化基准数据集。该数据集包含了由10个不同家族的现代LLMs生成的660个挑战性幻觉样本，并由人类专家进行标注。数据集的创建过程包括从Vectara的幻觉排行榜中筛选样本，并进行严格的人工标注，以确保标注质量。FaithBench主要应用于评估LLMs的幻觉率和幻觉检测模型的准确性，旨在解决现有评估方法中缺乏多样性和时效性的问题。

查看FaithBench

README 内容： 

关于 Vectara, Inc. , Vectara, Inc. 是一家专注于自然语言处理和人工智能技术的公司，提供基于云的语义搜索和文本分析解决方案。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。