蚂蚁集团:大模型安全系统建设刚刚起步 仍有问题待研究解决

　　蚂蚁集团安全实验室首席科学家、可信AI负责人王维强表示，结合大模型生产过程，集团认为保障大模型安全性主要有三个关键环节，包括从训练数据源头消毒；做护栏加固防止推理过程黑盒的不可控问题；面对外部诱导的对抗攻击，做一些对抗攻击的测试和防范。

　　他提及，大模型安全既要「快」也要「慢」，大模型安全防御方面要「快」，要能快速检测、查杀病毒，确保服务无毒害；在大模型安全可信方面要「慢」，要能长远地、体系化地保证整个系统环境的可控、可信。

　　他指蚂蚁集团一直持续推进可信AI，但在大模型安全系统建设上也只是刚刚起步，仍有很多问题待研究解决，仍要花很多时间和行业共建；相信可信AI是数字时代抵御防控的核心能力，希望能够和社会共治AI风险。(jl/cy)

　　AASTOCKS新闻