来源 :绿盟科技2025-12-17
12月16日，中国教育和科研计算机网CERNET第三十一届学术年会在哈尔滨隆重开幕。本次大会由中国教育和科研计算机网CERNET管理委员会指导，CERNET网络中心主办，哈尔滨工业大学承办，CERNET专家委员会协办。绿盟科技受邀参会，绿盟科技解决方案销售中心高级经理尹航围绕高校AI安全规划与构建纵深防御体系建设的思考与实践，与到场嘉宾进行分享。
本届大会以“AI赋能互联网技术创新发展”为主题，邀请教育领域主管单位领导、全国高校网络安全领域技术专家等，围绕下一代互联网关键技术研究、校园信息化“十五五”规划等核心议题展开讨论。
当前，人工智能技术在国内高校发展迅速，已与教学创新、学科建设、人才培养、科研管理等多场景深度融合。在推动教育创新的同时，也带来如输入诱导、模型攻击、数据投毒、提示注入等以AI为目标的新型攻击。传统网络安全防护手段逐渐乏力，高校亟需构建适应AI时代的纵深防御体系。
作为专注网络安全领域25年的企业，绿盟科技把人工智能作为推动安全能力跃升的重要引擎。绿盟科技解决方案销售中心高级经理尹航表示，绿盟科技基于在AI安全领域的多年深耕，提出应以“评估+加固、监测+防护、运营+审计”为核心，系统化构建AI安全的三道防线，助力高校系统化应对AI安全挑战。
第一道防线：前置评估，策略生成
通过部署规划大模型安全评估能力和相关测评服务，对内容安全合规性风险与内容对抗安全风险进行全面检验，识别高风险内容，并基于评估结果，由大模型应用防护系统自动生成匹配的内容防护策略。
第二道防线：纵深布防，多层拦截
围绕模型、智能体、数据与基础设施等，部署纵深防御能力，完善基础设施安全。重点强化安全围栏能力建设，实现对输入、输出内容的检测拦截。建立违规红线内容代答基线，强化模型资产安全管理能力，优化语料数据治理能力。
第三道防线：闭环审计，合规运营
以大模型安全风险矩阵为依托，构建覆盖模型应用数据流转与业务逻辑的审计追溯体系。融入常态化的风险监测与应急响应机制，实现对输入输出内容的深度溯源与合规回溯，形成“运营+审计”双轮驱动治理模式。
通过大模型安全围栏与审计系统联动，实现对违规行为及敏感数据流的实时告警与智能阻断，确保在风险发生时快速定位源头、全程留存证据、及时执行熔断，形成从风险感知、追踪到处置的完整闭环，保障业务持续合规、稳定可靠运营。