威斯康星大学麦迪逊分校 发布 NotInject 数据集, 应用在 提示注入攻击、自然语言处理 领域

威斯康星大学麦迪逊分校 本次发布的数据集 NotInject, NotInject数据集由威斯康星大学麦迪逊分校的研究团队创建，旨在评估提示防护模型中的过度防御问题。该数据集包含339个精心设计的良性输入样本，这些样本中嵌入了常见于提示注入攻击中的触发词，以进行细粒度评估。数据集的创建过程包括触发词识别、精炼和语料生成，确保样本的语义一致性和无害性。NotInject数据集主要应用于检测和缓解提示注入攻击，旨在提高大型语言模型在面对恶意输入时的鲁棒性和准确性。

查看NotInject

README 内容： 

关于 威斯康星大学麦迪逊分校 , 威斯康星大学麦迪逊分校是一所位于美国威斯康星州麦迪逊市的公立研究型大学，以其卓越的学术研究和教育质量闻名于世。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。