华为慕尼黑研究中心 发布 PII-Scope 数据集, 应用在 隐私保护、安全评估 领域

华为慕尼黑研究中心 本次发布的数据集 PII-Scope, PII-Scope是由华为慕尼黑研究中心创建的一个综合基准数据集，旨在评估大型语言模型（LLMs）中个人身份信息（PII）提取攻击的有效性。该数据集包含了多种威胁场景下的PII提取攻击方法，通过系统分析和实验，揭示了现有单次查询攻击对PII泄露的低估现象。数据集的创建过程涉及对不同攻击方法的超参数敏感性进行深入分析，并开发了标准化的评估方法。PII-Scope的应用领域主要集中在LLMs的隐私保护和安全评估，旨在解决PII泄露问题，为开发有效的隐私保护策略提供基础。

查看PII-Scope

关于 华为慕尼黑研究中心 , 华为慕尼黑研究中心是华为技术有限公司在德国慕尼黑设立的研究机构，专注于通信技术、网络技术及相关领域的研发工作。

关于 arXiv , arXiv 是一个免费分发服务和开放获取的学术文章档案库，涵盖了物理学、数学、计算机科学、定量生物学、定量金融、统计学、电气工程和系统科学以及经济学等领域。该网站上的材料并未经过 arXiv 的同行评审。