北京交通大学发布SaLAD数据集,应用在多模态安全评估、AI助手风险领域

北京交通大学本次发布的数据集SaLAD,SaLAD是由北京交通大学团队构建的多模态安全评估基准，聚焦日常生活场景中AI助手潜在风险。该数据集包含2,013个真实世界图像-文本样本，覆盖10个日常类别，平衡设计了危险场景与过度敏感案例。数据来源于10万条真实用户查询筛选，通过三阶段流程构建：首先挖掘高风险行为查询，再匹配真实网络图像，最后生成精准安全警告。其独特价值在于强调跨模态推理风险，要求模型必须结合视觉与文本信息才能识别隐患，解决了传统基准依赖单一模态的局限。该数据集主要用于评估多模态大模型在健康、交通、家居等生活场景中的安全响应能力，推动AI助手的风险预警机制发展。

查看SaLAD

README内容：

关于北京交通大学,北京交通大学是中国教育部直属的全国重点大学，位于北京市，是“211工程”和“985工程优势学科创新平台”重点建设高校，以信息与通信工程、交通运输工程等学科为特色。

关于arXiv,arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。