麻省理工学院 发布 MedPerturb 数据集, 应用在 医疗人工智能、自然语言处理 领域

麻省理工学院 本次发布的数据集 MedPerturb, MedPerturb数据集旨在系统地评估医疗大语言模型（LLM）在受控的临床输入扰动下的表现。数据集包含800个临床场景，这些场景在性别、语言风格和格式上进行扰动，每个场景都有来自四个LLM和三位人类专家的输出。数据集创建过程包括三个阶段：首先，对基准临床场景进行性别、风格和格式的扰动；其次，对每个扰动场景收集来自LLM的响应；最后，收集人类专家对每个场景的响应。数据集可用于测量LLM对不同扰动的敏感性，人类判断对不同扰动的敏感性，以及LLM和人类决策之间的差异。该数据集对于评估医疗LLM在临床环境下的表现具有重要意义。

查看MedPerturb

README 内容： 

关于 麻省理工学院 , 麻省理工学院，位于美国马萨诸塞州剑桥市，是一所全球知名的私立研究型大学，以其在科学、工程和技术领域的创新和领导地位而闻名。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。