来源 :深交所互动易2025-03-26
irm1429234问启明星辰(002439)董秘你好,贵司作为AI赋能安全企业，目前如何保障AI赋能可能带来的安全问题，常常科幻片AI赋能各类产品上，有人会利用这些远程操控带来事故？
2025-02-21 10:58:16
启明星辰答irm1429234
您好，启明星辰针对人工智能规模化应用中的安全挑战，构建了覆盖AI安全研究、产品、服务的立体化大模型安全防护体系。在AI安全研究方面，公司的安全团队发现多个AI安全漏洞，具备对AI大模型的安全测评能力；在安全产品方面，公司推出一系列面向AI原生安全的产品，例如大模型应用防火墙（MAF），可以拦截提示词注入等攻击。大模型访问安全代理（MASB），实现敏感数据泄露风险降低90%。大模型安全评估系统（MAVAS），有效评估大模型输出结果的安全性等。在大模型场景化安全服务方面，推出大模型应用安全服务组合，从大模型应用的评估、建设到运营，构建全栈化安全屏障。整个大模型安全防护体系形成"评估-防护-运营"全生命周期防护闭环，保护用户安全地使用AI，避免安全事故，感谢您的关注！
2025-03-26 11:45:11