来源 :中证网2025-04-11
4月10日，国民财富发展研究合作平台2025春季峰会“人工智能与金融未来”举行。中国银行首席信息官孟茜在峰会上表示，人工智能在应用过程中会面临数据泄露、算法黑箱、模型攻击等一系列的风险挑战，也会带来侵犯个人隐私、冲击法律和社会伦理等问题。因此，要统筹好发展和安全的关系，筑牢安全与风险三道防线。
具体而言，孟茜表示，要筑牢企业的治理防线，银行机构自身要逐步建立健全企业级人工智能的治理机制，将人工智能的管理纳入到全面风险管理的框架。
要筑牢业务安全防线，当前银行在应用大模型等人工智能技术时，必须将业务流程的最终责任落实到人。一方面，要明确人工智能的辅助和效率工具定位，在关键业务环节要建立强制性人工审核机制，确保员工对关键业务流程的掌控；另一方面，在风控、授信、投资等高风险的业务领域，审慎使用，应该优先选择精确度高、可解释强的人工智能方案，确保问题可追溯、责任可落实。
此外，要筑牢技术安全防线。银行在应用大模型的过程当中，要坚持模型不联外网、数据不出行、敏感信息不入模等原则，并利用技术手段通过输入输出端的多层审核防护拦截违法内容、防御恶性指令等，实现内容安全和交互安全的双重保证。