来源 :国电南瑞2025-09-16
9月15日，在昆明举行的国家网络安全宣传周网络安全技术高峰论坛主论坛上，“2025年人工智能技术赋能网络安全应用测试”结果正式发布。国电南瑞北京科东在“大模型生成内容安全风险检测”场景中以突出的表现荣获第四名，充分彰显了南瑞人在电力监控系统网络安全领域深厚技术积淀和创新优势。
▲赛事现场
“2025年人工智能技术赋能网络安全应用测试”赛事活动，由中央网信办网络安全协调局、国家能源局电力安全监管司等单位指导，国家互联网应急中心联合中国科学院信息工程研究所、国家信息技术安全研究中心等单位共同主办。国电南瑞“科东网安”团队首次参与该项国家级赛事，与来自网络安全、信息通信、人工智能、金融等领域的企业、高校和科研院所等169家单位的224支队伍同台竞技。
在“大模型生成内容安全风险检测”应用场景中，“科东网安”团队创新性地融合了动态上下文学习（In-Context Learning, ICL）与检索增强生成（Retrieval-Augmented Generation, RAG）两项关键技术，构建出一套高效、可靠的内容安全检测架构。
▲动态上下文学习（ICL）模块
其中，动态上下文学习（ICL）模块能够实时感知生成文本的语义演变与对话状态变化，实现对风险特征的动态提取与敏感词识别，捕捉与上下文紧密相关的隐含敏感信息，有效应对生成模型中常见的语义漂移和语境依赖型风险，显著增强了模型对潜在安全威胁的检测能力。
▲检索增强生成（RAG）模块
检索增强生成（RAG）模块进一步通过实时检索与当前生成内容相关的高质量风险语料、政策法规及合规标准，为检测系统提供权威、及时的外部知识支持，有效弥补了大模型因训练数据滞后、知识缺失或偏差所带来的误判局限，提升了风险判别结果的准确性与时效性。
▲多级协同检测机制
在上述两大核心模块协同支撑的基础上，为进一步提升检测的系统性与鲁棒性，构建了多级协同检测机制。该机制整合了规则匹配、语义理解、单风险子类模型等多个判别层级，形成递进式的风险扫描流程，支持从词汇、句子到篇章级别的细粒度检测，具备良好的可解释性与决策追溯能力，并在检测准确率与误报率之间实现了更优的平衡，为大模型的安全部署与广泛应用提供了坚实可靠的技术保障。
▲北京科东技术团队在赛事现场开展技术攻关
面向未来，国电南瑞将继续深化人工智能技术在网络安全领域的融合应用，聚焦高价值业务场景，持续提升电力监控系统网络安全防护能力，为国家关键信息基础设施和电网安全稳定运行保驾护航。