深度合成新规施行 互联网信息服务的合规边界与未来

随着人工智能技术的飞速发展，深度合成技术（Deepfake）在带来创新应用的也引发了传播虚假信息、侵犯肖像权、诈骗等一系列社会问题。为了规范互联网信息服务深度合成活动，保护公民、法人和其他组织的合法权益，维护国家安全和社会公共利益，国家互联网信息办公室、工业和信息化部、公安部联合发布的《互联网信息服务深度合成管理规定》（以下简称《规定》）已于2024年6月10日起正式施行。本文将以图解形式，为您梳理该《规定》的核心内容，并深入解读其对互联网信息服务的影响。

一、 什么是深度合成技术？

《规定》明确指出，深度合成技术是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。具体包括：

• 文本生成：如AI写作、智能问答等。
• 图像生成：如AI绘画、人脸替换、表情操纵等。
• 音频生成：如语音克隆、音乐合成等。
• 视频生成：如视频换脸、动作迁移、虚拟主播等。
• 虚拟场景生成：如数字孪生、AR/VR场景等。

二、 图解《规定》十大亮点

1. 适用范围 ：在中华人民共和国境内提供深度合成服务，以及使用深度合成服务提供者的技术支持、辅助工具等，均适用本规定。

1. 服务提供者责任 ：深度合成服务提供者应当落实信息安全主体责任，建立健全算法审核、信息发布审核、数据安全和个人信息保护等管理制度。

1. 标识要求 ：

• 显著标识：服务提供者应在生成合成内容的合理位置、区域添加标识，向公众提示深度合成情况。

• 不得删除标识：任何组织和个人不得删除、篡改、隐匿深度合成标识。

1. 用户真实身份认证 ：服务提供者应当基于移动电话号码、身份证件号码等方式，对用户进行真实身份信息认证。

1. 数据和技术管理 ：服务提供者应加强训练数据管理，确保数据来源合法、内容安全；同时采取技术措施，防止深度合成技术被用于违法活动。

1. 不得从事的行为 ：

• 不得生成合成法律法规禁止的信息。

• 不得利用深度合成服务从事危害国家安全、荣誉和利益的活动。

• 不得侵犯他人合法权益。

1. 安全评估与备案 ：具有舆论属性或社会动员能力的深度合成服务提供者，应按照规定履行安全评估和算法备案手续。

1. 监督检查 ：网信、工信、公安等部门依法对深度合成服务进行监督检查，服务提供者应予以配合。

1. 法律责任 ：违反本规定的，将依法追究法律责任，包括警告、罚款、暂停服务、下架应用等。

1. 施行日期 ：本规定自2024年6月10日起施行。

三、 对互联网信息服务的影响

1. 平台合规压力增大 ：各互联网平台需尽快完善内部管理制度，增加技术投入，确保生成合成内容可识别、可追溯。

1. 用户行为更规范 ：实名制认证和标识要求将有效遏制利用深度合成技术进行的恶意行为。

1. 技术创新与安全并重 ：在合规框架下，企业可探索更多正向应用，如虚拟数字人、智能客服等，但必须守住安全底线。

1. 行业洗牌加速 ：未能及时合规的小型服务商可能被淘汰，头部平台凭借技术优势进一步巩固市场地位。

四、

《互联网信息服务深度合成管理规定》的施行，标志着我国对深度合成技术的治理进入新阶段。它既是对互联网信息服务的规范，也是对技术向善的引导。随着法规的落地和技术的迭代，我们期待看到深度合成在法治轨道上释放更大的社会价值，同时有效防范其潜在风险，共同维护清朗的网络空间。