香港理工大学 发布 MMSafe-PO 数据集, 应用在 多模态交互、模型安全性 领域

香港理工大学 本次发布的数据集 MMSafe-PO, MMSafe-PO数据集是由香港理工大学等机构的研究人员构建的，包含多模态指令、对话格式和人类反馈的配对响应。该数据集通过模态解释方案将文本指令转换为多模态指令，旨在服务于无害多模态助手的偏好优化。数据集包含5667个多模态指令，每个指令都有选定的响应和拒绝的响应，适用于训练和评估多模态大型语言模型的安全性。

查看MMSafe-PO

关于 香港理工大学 , 香港理工大学是一所位于中国香港的公立综合性研究型大学，是香港八所法定公立大学之一，以其科研实力和学术水平在亚洲及世界上享有声誉。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。