来源 :开普云2025-01-23
近日，开普云收到中国网络空间安全协会人工智能安全治理专业委员的表扬信。这不仅是对开普云过去一年在人工智能发展与安全治理方面提供专业支持的肯定，也是对公司未来在AI安全领域创新发展的期待与激励。
近年来，开普云在全力推进AI创新的同时，始终将人工智能的安全问题置于重要位置。作为人工智能安全治理专业委员会首批成员单位，公司积极参与各项活动，从标准制定、大模型评测与监控、大模型语料库建设等多个维度入手，全力应对人工智能安全挑战，实现科技发展与安全治理的双轮驱动。
在标准制定和行业自律方面，开普云积极参与《生成式人工智能行业自律倡议》的编著并积极响应和践行倡议内容，在专委会组织的人工智能安全治理座谈会上，围绕生成式人工智能发展与安全治理提出多项具体发展建议，为人工智能健康发展和规范应用贡献智慧。
针对AI安全治理中的监管难题和应用安全问题，开普云推出新一代AIGC内容安全风控平台—鸠摩智。该平台可对人工智能生成的内容进行科学、全面的评价，确保大模型生成的内容既符合法律法规又尊重用户隐私。目前，鸠摩智已被用于支持网信部门开展生成式人工智能安全监测，为监管机构和模型开发者提供可靠的量化参考和科学的评估依据。
确保大模型生态系统的健康发展，语料的质量至关重要。高质量的语料在行业中始终属于“稀缺资源”。开普云积极响应网安协会语料专委会发起的“中文互联网语料库”构建计划，从自身积累的PB级优质语料中，精选出首批超过500GB的政务数据，这些数据已经广泛应用于国内多家大模型厂商的训练中，有效纠正了大模型在历史事实和意识形态价值观方面的偏差。
人工智能的发展需要行业共治，开普云将在专委会的引领下，与行业各方携手并进，共同探索安全、负责任的AI发展路径。我们将落实切实有效、多方共治、敏捷应对的方案，保障人工智能行业的良性发展。
中国网络空间安全协会
中国网络空间安全协会（简称网安协会），是由中央网信办主管的全国性非营利组织，旨在促进网络空间安全发展。其下设的人工智能安全治理专业委员会（简称专委会），聚焦人工智能领域技术创新、产业协作、成果转化和行业自律，在模型安全、内容安全、数据安全等方面不断提升人工智能安全治理能力，以行业协同方式探索人工智能安全新型综合治理新模式，为中国人工智能产业健康发展提供支撑。