规范深度合成技术 维护清朗网络生态

   深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。具体到应用层面，视频换脸、语音合成、影像修复、虚拟数字人等越来越多地出现在社交娱乐、影视制作、广告营销等领域，商业使用场景愈发多元化，给用户和受众带来新奇有趣的观感体验。

   但也要看到，深度合成技术是一柄双刃剑。深度合成过于“逼真”使交互变得虚实难辨，耳听或眼见未必为实，滋生出一系列安全隐患。比如，不法分子利用有关技术，制作、复制、发布、传播违法和不良信息；诋毁、贬损他人名誉、荣誉；伪造音频、视频搞变声、变脸，实施新型诈骗……严重损害人民群众合法权益，严重威胁社会信息安全，这一切已引起有关部门的高度重视。

   国家互联网信息办公室、工业和信息化部、公安部近日联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），强调不得利用深度合成服务从事法律、行政法规禁止的活动，要求深度合成服务提供者落实信息安全主体责任，《规定》将于2023年1月10日起施行。

   《规定》的出台，正是为了加强针对互联网信息服务深度合成的管理，统筹协调相关监管工作，确保相关技术与应用纳入规范化、法治化轨道，维护国家安全和社会公共利益。

   压实并强化深度合成服务提供者的信息安全主体责任，势在必行。《规定》要求，深度合成服务提供者建立健全包括算法机制机理审核、科技伦理审查等管理制度，以及具有安全可控的技术保障措施。从源头上控制，从制度上保障，是确保深度合成技术合理安全应用的前提。在此基础上，制定公开管理规则、平台公约，完善服务协议，则是依法依约履行管理责任，约束使用者承担信息安全义务，防止别有用心者“胡作非为”。依法对深度合成服务使用者进行真实身份信息认证，建立健全辟谣机制和申诉、投诉、举报机制等，更使管理与规范系统化、精细化。

   特别要指出的是，对于可能导致公众混淆或者误认的，深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。这一规定十分重要，显著标识能够起到“以正视听”的作用。简言之，深度合成技术作为现代科技文明的产物，必须被置于以技术伦理规制、以法治文明治理的框架内。

   行政监督与司法亮剑，同样必不可少。《规定》明确，网信部门和电信主管部门、公安部门依据职责对深度合成服务开展监督检查，发现较大信息安全风险的，应当依法要求整改，消除隐患。深度合成服务提供者违反《规定》，造成严重后果的，依法从重处罚。构成犯罪的，依法追究刑事责任。法有禁止不可为，任何单位或个人妄图利用深度合成技术“为非作歹”，必将自食苦果。

   网络空间天朗气清，符合人民利益。规范和引导依法、合理、有效使用深度合成技术，是防范化解安全风险的必然要求，是促进深度合成服务健康发展的必然选择，更是维护清朗的网络生态的必然条件。