从基于深度合成（deep sythesis）技术的Deepfake出现开始，深度合成技术一直就饱受争议。从ZAO的换脸引起公众警觉，到“假靳东”的案件，不断降低的深度合成技术使用门槛让传统上“有图有真相”发展到“有视频都未必有真相”。此外，元宇宙、虚拟人（数字人）等基于深度合成技术的理念也伴随着商业热度滚滚而来，要求法律与监管部门不能忽视这一生机勃勃的技术。
2022年1月28日，网信部门发布了《互联网信息服务深度合成管理规定（征求意见稿）》，标志着监管部门为虚拟空间打造的又一块拼图已具备雏形。该征求意见稿的发布，是监管部门对算法、元宇宙等近期热点领域已知与潜在风险的回应。
《互联网信息服务深度合成管理规定（征求意见稿）》并不是我国法规首次关注深度合成内容，此前在《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等法律法规中均涉及深度合成内容，但这些法规更多是从音视频或较为宏观的角度关注，而此次公开的《互联网信息服务深度合成管理规定（征求意见稿）》则针对深度合成内容的特点，更有针对性地进行规制。
欧盟将在几个月内发布元宇宙相关新政策:金色财经报道，欧盟执行机构将在未来几个月内发布针对元宇宙的新政策，意见反馈已开放持续至 5 月 3 日。欧盟委员会周三在就元宇宙新政策进行的磋商中警告??称，少数大公司可能会主宰元宇宙，造成市场准入壁垒，并将欧盟初创企业和中小企业拒之门外。
该文件针对所谓的 Web 4.0 提出了一系列政策问题，在 Web 4.0 中，物理世界和虚拟世界使用连接的智能设备进行沉浸式交互。它列举了平等、数据隐私、网络安全和开放性以及当地企业融资等问题。[2023/4/6 13:48:46]
《互联网信息服务深度合成管理规定（征求意见稿）》将深度合成技术定义为：“利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。”与其说是定义，不如说是描述。
征求意见稿将以下使用深度学习的技术列为规制范围：
阿联酋DMCC与韩国元宇宙公司进行合作:金色财经报道，消息人士透露，迪拜多种商品中心 (DMCC) 最近宣布与韩国某家元宇宙平台签署了两份谅解备忘录，计划建立合作伙伴关系，以促进阿联酋在全球Web3业务的扩张。 DMCC成立于2002年，是阿联酋最大的自由贸易区；2021年，政府启动了DMCC加密中心，这是一个面向加密和区块链领域企业的综合生态系统。数据表明，在所有中东和北非国家中，阿联酋是最受关注的加密国家。（news.todayq）[2023/3/17 13:09:16]
当然，使用传统技术、未涉及深度学习技术的相关场景不在《互联网信息服务深度合成管理规定（征求意见稿）》的调整范围之内。
国家信息中心单志广：基于区块链基础设施构建未来元宇宙环境:金色财经消息，8月16日，2022智能视听大会在山东省青岛市开幕。国家信息中心信息化和产业发展部主任、智慧城市发展研究中心主任单志广在本届大会上发表主旨演讲。单志广认为，“元宇宙”就是一个面向未来的智能化数字空间，是人类信息化发展的更高阶形态。元宇宙将加快人的数字化进程，推动信息网络空间从以“物”为核心的“赛博空间”向以“人”为中心的“智能化数字空间”转变。元宇宙的“数字新未来”将引领未来的生产方式、生活方式和、治理方式。元宇宙的组成技术包括游戏引擎技术、VR技术、数字货币技术、云服务和硬件技术、互操作技术、区块链和NFT技术等，具有非常多新的时空能力和属性。未来只有基于区块链的基础设施才能构建未来可信的元宇宙环境。[2022/8/17 12:31:07]
随着深度合成技术的广泛使用，《互联网信息服务深度合成管理规定（征求意见稿）》的调整范围远不只是Deepfake，而是包括了数字化工作的各个维度：客服平台的聊天机器人与营销机器人、广泛运用于地震等突发事件或体育赛事中的写稿机器人、相机（APP）中的美颜功能、游戏中3D场景或捏脸功能、元宇宙所构建的虚拟空间……不一而足。
彭博ETF分析师：富达向SEC提交元宇宙ETF申请:1月28日消息，据彭博ETF分析师Hearsay透露，富达（Fidelity）已经向美国证券交易委员会提交了元宇宙 ETF：Fidelity Metaverse ETF，旨在追踪富达元宇宙指数，其中包含了开发、制造、分销、销售与建立元宇宙相关的产品的公司，但该ETF不会直接或通过加密衍生品间接投资于数字资产。富达投资公司发言人暂未对此事给予置评。[2022/1/28 9:18:47]
《互联网信息服务深度合成管理规定（征求意见稿）》所设定的合规义务框架围绕着“深度合成服务提供者”与“深度合成服务使用者”两方主体搭建。
梳理后合规义务框架如下：
易居研究院严跃进：元宇宙虚拟房产交易需要金融部门监管:11月29日消息，易居研究院智库中心研究总监严跃进表示，元宇宙虚拟房产交易的情况，更多还是属于金融方面的问题，需要金融部门监管。至于此类交易和房地产的关系，目前还需要观察。元宇宙世界中，此类虚拟房地产的定位和功能是什么，有待于后续进一步研究。（证券日报）[2021/11/29 12:38:35]
征求意见稿将服务提供者视为类似社交媒体平台的角色，有义务对平台内的用户行为进行监督。但是，在现实中深度合成服务提供者的技术同样依赖于第三方的提供，如可能会需要使用外部的引擎来支持自己的服务，在这样的场景下，如何定位各方的主体角色可能是需要推敲论证的，可能更应该将之视为征求意见稿之外的技术开发者，而非服务提供者更加合适。
基于此前我们为该领域企业提供法律服务的经验，我们建议企业可以依据以下思路开展合规工作：
企业可以通过问卷、访谈等形式，结合业务场景，全面梳理企业深度学习技术的使用情况。在梳理的过程中，可能需要特别关注用户较多的使用场景。
就相关技术的使用进行风险评估。对算法、深度合成技术的评估主要通过：查阅材料、查看系统、访谈人员、系统测试、攻击测试、算法测试、查看算法等方式进行。如涉及个人信息的处理，可能还需要将个人信息保护影响评估纳入评估机制中。
在主体责任、算法审核、用户注册、信息内容、数据安全和个人信息保护、未成年人保护、教育培训等领域将深度合成技术的风险管控纳入考量。此外，还需要建立内容审核、事件响应、辟谣、协助调查等机制。
针对深度识别技术的使用，要求使用者在使用时：1）不得合成违法违规的内容；2）不得将合成内容用于违法或侵权用途；3）不得将合成内容谎称为自然内容；4）用于合成的素材应当合法合规，对人像、声音等生物识别信息获取单独同意并完成个人信息保护影响评估；5）对生成内容的知识产权的归属、数据处理的权限进行约定；6）其他需要约定或声明的内容。
通过添加水印、电子签名等方式，对深度合成内容进行标识，避免公众误认。在此过程中，更重要的是设计该法定提示如何在有效告知公众的基础上，避免对业务的正常开展造成过大的冲击。
在法规正式实施后，尽快在相关系统完成算法备案，对备案中可能需要填写的服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，公司可以提前起草进行准备，以便在相关系统上线后尽快完成备案。
发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输（第9条）
不得生成合成虚假新闻信息（第13条）
网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。（第23条）
网络音视频信息服务提供者基于深度学习、虚拟现实等新技术新应用上线具有媒体属性或者社会动员功能的音视频信息服务，或者调整增设相关功能的，应当按照国家有关规定开展安全评估。（第10条）
网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识。（第11条第1款）
网络音视频信息服务提供者和网络音视频信息服务使用者不得利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播虚假新闻信息。转载音视频新闻信息的，应当依法转载国家规定范围内的单位发布的音视频新闻信息。（第11条第2款）
网络音视频信息服务提供者应当加强对网络音视频信息服务使用者发布的音视频信息的管理，部署应用违法违规音视频以及非真实音视频鉴别技术，发现音视频信息服务使用者制作、发布、传播法律法规禁止的信息内容的，应当依法依约停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信、文化和旅游、广播电视等部门报告。（第12条第1款）
网络音视频信息服务提供者发现不符合本规定第十一条第一款要求的信息内容的，应当立即停止传输该信息，以显著方式标识后方可继续传输该信息。（第12条第2款）
网络音视频信息服务提供者应当建立健全辟谣机制，发现网络音视频信息服务使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的，应当及时采取相应的辟谣措施，并将相关信息报网信、文化和旅游、广播电视等部门备案。（第13条）
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。