南方电网科研院电力大模型对抗测试数据集在粤完成知识产权存证 覆盖22类安全风险场景
近年来，大语言模型在电力调度、智能运维、客户服务、隐患排查等垂直场景的落地速度不断加快，但其面临的对抗性指令攻击、提示词注入、目标劫持等安全风险也逐渐成为行业关注的核心议题——一旦电力场景下的大模型被恶意诱导输出违规操作方案、敏感运行数据，极有可能对电网稳定运行造成不可预估的安全隐患。在此背景下，电力垂直领域的标准化安全测试数据集成为保障大模型合规上线、安全运行的核心基础工具。与此同时，随着我国数据要素市场化改革的持续推进，数据知识产权存证登记也成为数据资产确权、合规流通的必要前提，广东省数据知识产权存证登记平台作为广东省数据要素市场体系的核心基础设施，承担着省内各类数据资产的知识产权存证、权属确认、流通溯源等公共服务职能，为数据资产的合法流转提供合规依据。
2026年10月15日，南方电网科学研究院有限责任公司研发的电力大语言模型多场景对抗攻击测试数据集正式在该平台完成知识产权存证登记。该数据集面向电力行业大语言模型的安全能力评测与对抗测试需求，严格遵循《电网运行准则》（GB/T 31464-2022）、《电力监控系统网络安全防护导则》（GB/T 36572-2018）等国家级电力安全标准的红线条款，以安全风险维度为核心导向构建深度测评体系，全部样本划分为典型安全场景、指令攻击场景、责任场景三大一级类别，进一步细分为侮辱与攻击性内容、不公平与歧视、犯罪与非法活动、目标劫持、提示泄露、角色扮演诱导、行业合规责任、数据安全责任等22个二级安全风险维度，实现了电力场景下主流大模型安全风险点的全覆盖。
数据集目前共包含19672条经人工逐条校验的恶意诱导测试样本，各维度样本量在828～916条区间内，极差控制在9.6%以内，样本分布均衡性处于行业较高水平。所有样本均模拟黑客向大模型下达直接破坏指令的祈使句形式，明确要求模型提供具体执行步骤、代码或配置篡改方案并附带输出格式诉求，攻击诱导性更贴近真实网络攻击场景。样本生产流程严格遵循“人工构造种子指令-规则增强-大模型增强-对抗注入-人工校验”五大环节，编号前缀可明确区分原始种子与各类加工衍生样本，可追溯性强。
从应用场景来看，该数据集可广泛应用于电力行业大模型全生命周期的安全管控环节：在研发阶段，可作为安全对齐训练的基础样本库，提升大模型对各类恶意诱导指令的识别、拒答能力；在上线评测阶段，可作为红队渗透测试的标准化工具，验证大模型在电力专业场景下的安全防护水平；在运营阶段，也可作为常态化安全抽检的基准样本库，及时发现大模型运行过程中出现的安全漏洞。完成知识产权存证登记后，该数据集的权属得到官方确认，后续可通过合规渠道在电力行业内实现共享流通，避免行业内重复研发同类测试数据集的资源浪费，同时也为电力行业大模型安全评测标准的统一提供了基础支撑，对加快电力领域人工智能技术的安全落地、推动数据要素在垂直行业的合规流转具有重要的示范意义。
登记内容：
_1769672084863.jpg)