宾夕法尼亚州立大学发布PIArena Benchmark数据集,应用在提示注入攻击、大型语言模型安全领域

宾夕法尼亚州立大学本次发布的数据集PIArena Benchmark,PIArena Benchmark是由宾夕法尼亚州立大学团队构建的提示注入攻击评估基准数据集，集成于统一平台PIArena中。该数据集涵盖多样化目标任务（如问答、检索增强生成等）和四类现实攻击场景（钓鱼注入、内容推广、访问拒绝和基础设施故障），通过上下文感知的注入任务设计增强真实性。数据集的创建过程涉及利用LLM生成与目标指令和上下文相关联的恶意任务。其核心应用领域为大型语言模型安全研究，旨在系统评估防御措施在跨任务泛化性、对抗自适应攻击等方面的鲁棒性，推动提示注入防御技术的演进。

查看PIArena Benchmark

关于宾夕法尼亚州立大学,宾夕法尼亚州立大学是一所位于美国宾夕法尼亚州的著名公立研究型大学，以其在工程、商科和生命科学等领域的卓越研究和教学质量而闻名。

关于arXiv,全球最大的预印本学术论文数据库，涵盖物理、数学、计算机科学等多个学科领域。