复旦大学 发布 OpenDeception 数据集, 应用在 欺骗检测、自然语言处理 领域

复旦大学 本次发布的数据集 OpenDeception, OpenDeception是一个包含50个现实世界启发场景的开源数据集，由复旦大学创建。数据集涵盖了电信诈骗、产品推广、个人安全、情感欺骗和隐私窃取五大类别的十种具体场景，旨在评估大型语言模型在开放性用户-人工智能交互中的欺骗意图和能力。数据集通过模拟多轮对话，使用AI代理来模拟人类用户与AI欺骗者之间的交互，从而避免了高风险场景中与人类测试者的直接交互所引发的伦理问题。

查看OpenDeception

关于 复旦大学 , 复旦大学是中国的一所综合性研究型大学，以其在多个学科领域的卓越表现和研究成果享誉全球。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。