Writer, Inc 发布 FailSafeQA 数据集, 应用在 金融、自然语言处理 领域

Writer, Inc 本次发布的数据集 FailSafeQA, FailSafeQA数据集是由Writer, Inc创建的，用于测试大型语言模型在金融领域中面对用户界面交互变化的鲁棒性和上下文感知能力。该数据集包含220个示例，每个示例由一个上下文和五个问题组成，其中包括原始问题、三个扰动变种和一个无关问题。数据集的上下文是截断的美国公开上市公司10-K年度报告，这些问题和上下文经过人工和自动化的生成和扰动处理。该数据集旨在评估LLM在金融应用中的可靠性，并解决模型在面对非理想条件下的输入扰动时的问题。

查看FailSafeQA

Dataset card 内容： 

Files and versions 内容： 

关于 Writer, Inc , -

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。