浙江大学 发布 RefuteBench 2.0 数据集, 应用在 自然语言处理、模型评估 领域

浙江大学 本次发布的数据集 RefuteBench 2.0, RefuteBench 2.0是一个由浙江大学和西湖大学联合创建的动态评估框架，用于评估大型语言模型（LLM）对反驳指令的遵循能力。该数据集包含了机器翻译、总结和开放式写作等多种任务类型，通过代理生成的反驳和评估，模拟真实世界的多轮对话场景，以评估LLM在处理用户反馈时的性能和适应性。数据集涵盖了300个种子问题，以及对应的对话轮次和 tokens 数，旨在解决LLM在长时间对话中保留和使用先前信息的能力问题。

查看RefuteBench 2.0

关于 浙江大学 , 浙江大学是中国的一所综合性大学，位于浙江省杭州市，是中国著名的高等学府之一，拥有多个学科领域的研究实力。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。