重庆大学发布ALEAHallu Activation Dataset数据集,应用在视觉语言模型、幻觉检测领域

重庆大学本次发布的数据集ALEAHallu Activation Dataset,ALEAHallu激活数据集由重庆大学和新疆大学的研究团队构建，旨在系统研究视觉语言模型（VLMs）中的幻觉机制。该数据集包含2091对正负样本，每对样本由基于MSCOCO图像生成的幻觉自由描述和幻觉描述组成，通过GPT-4o评估确保质量。数据集的创建过程涉及设计视觉基础提示和对抗性提示，以激活模型的幻觉倾向参数。该数据集主要用于优化VLMs的参数编辑框架，解决模型在生成内容时过度依赖语言先验而忽视视觉证据的问题，从而减少幻觉现象。

查看ALEAHallu Activation Dataset

README内容：

关于重庆大学,重庆大学是位于中国重庆市的一所综合性全国重点大学，是国家“双一流”、“211工程”和“985工程”重点建设的高校。学校创建于1929年，拥有多个学科领域的研究实力，尤其在工程、建筑、计算机科学等方面具有显著影响力。

关于arXiv,arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。