明斯特大学 发布 HalluRAG 数据集, 应用在 大型语言模型、幻觉检测 领域

明斯特大学 本次发布的数据集 HalluRAG, HalluRAG数据集由明斯特大学创建，旨在用于检测大型语言模型（LLM）在封闭领域中的幻觉现象。该数据集包含18000条数据，主要来源于维基百科的最新内容，确保信息在模型训练截止日期后产生。数据集通过生成可回答和不可回答的问题对，结合模型的内部状态，训练多层感知器（MLP）以识别幻觉。HalluRAG数据集的应用领域主要集中在提高LLM的可靠性和信任度，特别是在RAG（检索增强生成）应用中，帮助模型避免生成不基于训练数据的错误信息。

查看HalluRAG

关于 明斯特大学 , 明斯特大学是德国的一所著名大学，位于北莱茵-威斯特法伦州的明斯特市。该大学以其卓越的学术研究和教育质量而闻名，尤其在法学、经济学、神学和自然科学领域具有显著的影响力。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。