香港科技大学 发布 MMSafeAware 数据集, 应用在 多模态内容识别、安全评估 领域

香港科技大学 本次发布的数据集 MMSafeAware, MMSafeAware是一个全面的多模态安全意识基准，由腾讯AI实验室推出，包含29个安全场景下的1500个经过精心策划的图像-提示对。该数据集旨在评估多模态大型语言模型在识别多模态内容安全性方面的能力，分为不安全子集和过安全子集，以评估模型正确识别不安全内容和避免过度敏感的能力。数据集经过人工标注确保质量，是目前为止最全面的多模态安全基准。

查看MMSafeAware

关于 香港科技大学 , 香港科技大学是一所位于中国香港的国际化研究型大学，以科技和商业管理学科为主，在多个领域有着卓越的研究成果和国际影响力。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。