来源 :东方通2025-01-14
近期，安全牛发布了《AI时代深度伪造和合成媒体的安全威胁与对策（2024版）》报告（以下简称“报告”），通过广泛的调研与案例分析，报告系统梳理了该领域的最新发展动态和核心问题，旨在为应对深度伪造和合成媒体的安全威胁提供全面洞见，并助力产业界和社会各界在AI技术的新时代构建更加安全、可信的信息生态。东方通受邀参与该报告编写，分享了深度伪造合成领域产品服务与典型实践案例。
深度伪造“侵入日常”敲响安全警钟
由于AI合成技术的门槛不断降低，自制AI合成内容已屡见不鲜，然而，技术的广泛应用却引发了一系列令人担忧的乱象。从早期的粗制滥造、一眼即可识破的虚假内容，到如今以假乱真、令人难以分辨真伪的“深度伪造”作品，AI的发展无疑让虚假信息的制造传播进入了一个全新的时代。
近期，日喀则抗震救灾期间，一张“戴着帽子的小男孩被压在废墟下”的图片，被多个账号与日喀则地震关联发布，部分账号收获数万转评赞，众多网友在留言区关切孩子安危。这一情况引起了各级部门的高度重视。随后，公安机关网安部门迅速展开核查，发现该图片是别有用心之人利用灾情炮制的虚假信息，严重误导公众。
此类事件表明，AI 伪造技术已悄然侵入日常生活，这无疑为大众与相关部门敲响了警钟：随着人工智能技术的飞速发展，其被滥用的风险急剧上升。虚假信息不仅极易误导公众的判断，更有可能触碰法律红线，给社会的稳定与安全带来严重威胁。
东方通在积极探索AI等新技术应用的过程中，提前布局安全内容检测领域的研究。在报告中，东方通详尽分析了当前深度伪造内容特点，并展示了相关研究成果，通过融合AI技术手段，东方通推出了深度伪造内容检测系统，能够对音视图文内容进行深度分析，提取特征并进行比对，从而准确判断内容是否经过篡改或伪造，为打击网络虚假信息提供了有力支持，此外，东方通分享了在媒体、教育及公共安全等数字生活众多场景中的应用探索，致力于守护信息安全。
洞察深度伪造内容危害技术升级精准“狙击”
东方通安全团队调研总结发现，深度伪造内容仿真度高，普通用户肉眼难辨真伪，在社交媒体等平台极易快速传播，引发公众信任危机，并且潜在威胁巨大，不法分子借此实施欺诈、干扰司法，严重侵害公众权益。此外，深度伪造技术门槛低，应用范围广且真假界限模糊，法律界定与责任追究困难，给打击此类违法犯罪行为加大了难度。与此同时，随着深度伪造技术不断发展，伪造者为让伪造内容更逼真、更隐蔽，持续试图绕过现有检测识别技术。
面对这些复杂挑战，东方通积极开展关键技术研究，包括多模态深度伪造样本集构建及半自动标注技术、基于新型特征提取策略的伪造图像检测技术，以及基于时空联合物理线索的伪造视频检测技术等。通过这些技术研究，东方通力求为深度伪造内容检测筑牢数据基础、突破传统检测单一内容局限、提升内容检测精准性。
经过实践探索验证，东方通深度伪造合成检测系统凭借明显的技术优势，实现了显著的应用效果。在内容安全检测方面，借助大数据、语义及深度学习等 AI 技术，支持22大类、2000小类的应用识别以及41类主流互联网协议识别，对违法违规内容进行高效精准检测，全方位守护互联网内容安全；同时，系统配备专用深伪检测设备，具备PS合成检测、通用深度伪造检测、特定人物伪造检测和伪造溯源等功能，能全面检测识别各类深度伪造合成内容，为用户提供可靠服务。
网络信息安全领域，守护的防线绝非一劳永逸，需要凭借持续的钻研与探索来稳固。随着技术的不断进步和应用场景的日益丰富，东方通安全团队，将加强对技术、对抗手段的研究分析，不断推出更加先进、更加智能的解决方案，共同应对网络安全的挑战，共建共享清朗网络空间。
共同推动计算产业创新发展东方通出席全球计算联盟启航大会
东方通斩获2024 软件和信息服务业杰出贡献企业等多项殊荣
东方通获华为鲲鹏原生开发技术认证携手共促基础软件创新发展
关于东方通
东方通（股票代码：300379），是国内A股上市的基础软件厂商，以“安全+”、“数据+”和"智慧+"三大产品体系为基础，为客户提供综合解决方案及服务，是大安全及行业信息化产品、解决方案提供商。
东方通面向企业和社会的数字化转型与升级，提供基础软件、网络信息安全、数据安全、通信安全、智慧应急、5G创新应用、工业互联网安全及社会治理等产品和解决方案，帮助用户实现业务创新、安全管控和数据的共享与价值挖掘等。
东方通的产品及解决方案广泛应用于国内数千个行业业务，服务电信、金融、政府、能源、交通等行业领域10000多家企业级用户，与3000多家合作伙伴携手打造合作共赢的产业生态。东方通连续十二年被认定为“国家规划布局内重点软件企业”，承担多项国家重大科技专项的研制任务，是北京软件和信息服务业综合实力百强企业，曾荣获国家科技进步二等奖、北京市科学技术进步奖二等奖等多项荣誉。