奇安信韩永刚：大模型开发应用带来了新的安全隐患，AI安全还处于起步阶段

　　在2025中国互联网大会上，奇安信集团副总裁韩永刚发表演讲。他表示，AI自身的安全与传统安全有很大差别，目前防护还主要聚焦在AI研发测试环境、AI相关数据和应用等安全领域，处于起步阶段。对于内容安全，认知领域的对抗，以及未来智能体的权限管控、与应用和数据防护，还很困难，这也是未来网络安全产业增量。AI对于网络安全供需两侧都是增量，有望将小规模的高水平能力供给转专变为规模化提供，推动产业从劳动密集型向智力密集型转变，有望提升安全产业效率。他提到，大模型开发应用带来了新的安全隐患。大模型的黑盒属性、与多种业务和多类人员的连接、对多维数据的应用，以及快速部署应用过程中缺乏有效安全评估、防护、监测措施和手段，使得大模型应用蕴含很大的安全风险；Al安全除了以上传统安全问题，还有内容安全等新问题。