上海人工智能实验室 发布 安全微调数据集 数据集, 应用在 对话系统安全、机器学习微调 领域

上海人工智能实验室 本次发布的数据集 安全微调数据集, 该数据集是一个安全微调数据集，由上海人工智能实验室创建，包含3000条上下文引导对话，每个对话都配有一个正确的拒绝响应。数据集旨在通过微调减少攻击成功率，同时保持模型的一般能力，以应对大型语言模型中的上下文引导漏洞。

查看安全微调数据集

README 内容： 

关于 上海人工智能实验室 , 上海人工智能实验室是我国人工智能领域的新型科研机构，开展战略性、原创性、前瞻性的科学研究与技术攻关，突破人工智能的重要基础理论和关键核心技术，打造“突破型、引领型、平台型”一体化的大型综合性研究基地，支撑我国人工智能产业实现跨越式发展，目标建成国际一流的人工智能实验室，成为享誉全球的人工智能原创理论和技术的策源地。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。