来源 :天融信2024-01-02
近日，由杭州市委宣传部、杭州市余杭区人民政府主办，以“法治引领，数安护航”为主题的2023数字安全与法治论坛在浙江杭州成功举办。天融信科技集团受邀出席本次论坛活动，并在圆桌讨论环节围绕“人工智能治理挑战与应对”主题，共同为人工智能的安全治理提供建设性解决思路。此外，论坛为优秀网信企业颁发了“2023年数据安全典型实践案例”证书，天融信凭借《消费金融数据安全治理案例》成功入选典型实践案例。
在圆桌讨论环节中，天融信科技集团助理总裁张博表示，当前生成式人工智能需要大量的数据来进行训练，如何确保训练所用数据和生成内容的安全、隐私和法律合规对于企业来讲是一个重大挑战。目前，已发现多种方式对人工智能模型进行的攻击，保障模型自身安全是人工智能应用亟待解决的难题。发展和安全相辅相成、互为条件，人工智能安全治理同样需要在发展中实践探索。
天融信科技集团助理总裁张博
原始数据集分类分级，敏感数据脱敏
在AI数据训练方面应关注解决数据泄露、数据投毒等问题，对原始数据集进行分类分级，对敏感数据进行脱敏，对数据使用权限进行控制。
加强自身安全检测，提升AI应用开发安全
在AI应用开发方面应关注解决系统自身可能存在的安全风险问题，加强代码安全性测试、软硬件供应链安全检查、漏洞检测等措施。
定期评估AI资产安全，构建安全防护体系
在系统运营方面应关注解决AI系统运行安全问题，除了参照相关安全标准构建完备的安全防护体系外，应结合资产扫描、风险评估等技术手段，对AI资产的安全状况及安全防护效果进行定期评估验证。
天融信持续探索智能化安全发展，目前已推出基于AI的样本检测、情报抽取与分析、自动化网络访问策略生成、AI安全知识生成、风险预测和决策行动等一系列AI融合成果，使企业可以更快速地发现潜在的威胁，进一步加速安全智能化进程。
丰富实践积累持续高效创新
“2023年数据安全典型实践案例”征集活动由中国网络空间安全协会发起，经业内专家评审，遴选出在技术创新、应用创新、实用性效果方面表现突出，对产业发展以及技术更迭具有参考意义及较强示范价值的典型案例。《消费金融数据安全治理案例》的成功入选，充分彰显出天融信在数据安全领域充分的项目实践积累以及数据安全产品的持续创新能力。
TOPSEC
作为国内率先开展人工智能研究的网络安全企业，天融信凭借“天问大模型”入选IDC网络安全领域大模型代表厂商。目前，天融信发布了多个领域的AI融合创新产品，为企业构筑稳固的安全防护屏障。同时，面对生成式人工智能这把双刃剑，天融信将高度重视并主动应对人工智能规模化应用背景下的安全风险，共同推进网络空间人工智能安全治理。