AI生成内容标识新规全文梳理：显式标识与隐式标识

AI生成合成内容的“标识”被视为生成式人工智能（AIGC）技术安全、可信、合规的重要手段，用以治理恶意内容、侵权内容和深度伪造等顽疾。

2024年9月14日，国家网信办和网安标委分别发布了《人工智能生成合成内容标识办法（征求意见稿）》（《AIGC标识办法》）和配套国家标准《网络安全技术 人工智能生成合成内容标识方法（征求意见稿）》（下称《AIGC标识方法国标》），对AI生成合成内容的“标识”问题，以专项的规范性文件、强制性国标（征求意见稿）的方式，系统化给出了标识义务的要求和落实标识义务的实施方法。全球各国的生成式人工智能立法都普遍提及“生成内容标识”义务，而我国在这一问题上的监管实践和规范性文件要求则明显走在了前列。

早在2022年11月，国家网信办、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》，就提出了深度合成服务提供者对使用其服务生成或者编辑的信息内容进行标识的要求，首次触及“AI生成内容”的标识义务。

2023年7月，国家网信办等七部门发布《生成式人工智能服务管理暂行办法》再次要求AIGC服务提供者对图片、视频等生成内容进行标识。但上述两个网信办规范性文件并未对标识方法做出具体的规定和要求。

在2023年8月，全国信安标委发布了《网络安全标准实践指南—生成式人工智能服务内容标识方法》（简称《实施指南》），为相关企业如何落实“标识”义务提供了实施指引。但该文件并不具有强制性效力，各类企业在实施过程中出现了文本内容显式标识不明显、难察觉，音频、视频等内容显式标识未插入、浅提示，隐式标识少信息、难校验等问题，对于落实监管提出了挑战。

因此，为推动落实“AI生成内容”的标识义务、提供规范性和标准化要求，才出台了《AIGC标识办法》及配套的强制性国家标准《AIGC标识方法国标》。（小编：根据《标准化法》，“强制性国家标准”用于保障人身健康、生命财产安全、国家安全及生态环境安全，必须强制执行；“推荐性国家标准”不具有强制性，鼓励自愿采用。大部分“信息安全技术”的标准是推荐性国标，当然实际上经常成为监管机构的执法标准。《网络安全法》第22条也规定网络产品、服务应当符合相关国家标准的强制性要求。）

该《AIGC标识办法》以问题为导向，通过系统性、创新性制度设计，全面回应了对人工智能生成合成内容标识的要求。

符合《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者（“服务提供者”），总体而言即“利用生成式人工智能技术向境内公众提供生成文本、图片、音频、视频等内容的服务”提供者，需遵守生成内容标识的规定。

以下主体或情形不适用：行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用人工智能生成合成技术，但未向境内公众提供服务的。

1）人工智能生成合成内容（content generated by artificial intelligence）：

利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。

2）人工智能生成合成内容标识（label of content generated by artificial intelligence）：

表明某个内容是人工智能生成合成内容的信息。人工智能生成合成内容标识包括显式标识和隐式标识。

3）显式标识（explicit label）：

在人工智能生成合成内容或交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户直接感知到的标识。

4）隐式标识（implicit label）：

在人工智能生成合成内容数据中添加的，不能被用户直接感知，但能通过技术手段提取的标识。

5）文件元数据（file metadata）：

按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途、版权等信息

6）元数据隐式标识（metadata implicit label）：

位于人工智能生成合成内容文件元数据中的隐式标识。

【文本信息场景】必选两种之一——在文本的起始、末尾、中间适当位置添加文字提示或通用符号提示等标识，或在交互场景界面或文字周边添加显著的提示标识；

【音频信息场景】必选两种之一——在音频的起始、末尾或中间适当位置添加语音提示或音频节奏提示等标识，或在交互场景界面中添加显著的提示标识；

【图片信息场景】必选方式——在图片的适当位置添加显著的提示标识；

【视频信息场景】必选方式——在视频起始画面和视频播放周边的适当位置添加显著的提示标识；可选方式——可在视频末尾和中间适当位置添加显著的提示标识；

【虚拟场景呈现】必选方式——在起始画面的适当位置添加显著的提示标识；可选方式——可在虚拟场景持续服务过程中的适当位置添加显著的提示标识；

【其他场景】应当根据自身应用特点添加具有显著提示效果的显式标识；

服务提供者提供生成合成内容下载、复制、导出等方式时，应当确保文件中含有满足要求的显式标识。（小编：这是说，显式标识义务不仅在“生成”环节，也要保持到下载、复制、导出环节，这个目前还未普遍做到）

• 文本内容显式标识

a) 文本内容显式标识应采用文字或角标形式。

b) 文字形式的文本内容显式标识应同时包含以下要素：

   1) 人工智能要素：包含“人工智能”或“AI”，表明使用人工智能技术；

   2) 生成合成要素：包含“生成”和/或“合成”，表明内容制作方式为生成和/或合成。

c) 角标形式的文本内容显式标识应包含“AI”。

d) 文本内容显式标识应位于以下一个或多个位置：

   1) 文本的起始位置；

   2) 文本的末尾位置；

   3) 文本的中间适当位置。

e) 文本内容显式标识使用的字型和颜色应清晰可辨。

（文本内容显式标识示例见《AIGC标识方法国标》附录C的C.1）

• 图片内容显式标识

a) 图片内容显式标识应采用文字提示。

b) 图片内容显式标识应同时包含以下要素：

   1) 人工智能要素：包含“人工智能”或“AI”，表明使用人工智能技术；

   2)  生成合成要素：包含“生成”和/或“合成”，表明内容制作方式为生成和/或合成。

c) 图片内容显式标识应位于图片的边或角。

d) 图片内容显式标识使用的字型应清晰可辨。

e) 图片内容显式标识的文字高度应不低于画面最短边长度的5%。

（图片内容显式标识示例见《AIGC标识方法国标》附录C的C.2）

• 音频内容显式标识

a)音频内容显式标识应采用语音标识或音频节奏标识。

b)语音标识应同时包含以下要素：

   1) 人工智能要素：包含“人工智能”或“AI”，表明使用人工智能技术；

   2) 生成合成要素：包含“生成”和/或“合成”，表明内容制作方式为生成和/或合成。

c)音频节奏标识应为“短长 短短”的节奏。

     注1：“短长 短短”节奏为“AI”的摩斯码表示。

d）音频内容显式标识应位于以下一个或多个位置：

   1) 音频的起始位置；

   2) 音频的末尾位置；

   3) 音频的中间适当位置。

     注2：在智能语音助手、智能客服、智能导航等音频的高频交互场景中，音频的起始位置、末尾位置是指一轮交互的起始位置和末尾位置。

e)语音标识应使用正常语速。

     注3：汉语正常语速约在120~160字/分钟。

（音频内容显式标识示例见《AIGC标识方法国标》附录C的C.3）

• 视频内容显式标识

a) 视频内容显式标识应采用文字提示。

b) 视频内容显式标识应同时包含以下要素：

   1) 人工智能要素：包含“人工智能”或“AI”，表明使用人工智能技术；

   2) 生成合成要素：包含“生成”和/或“合成”，表明内容制作方式为生成和/或合成。

c) 视频内容显式标识应位于视频起始画面，可位于视频末尾和中间适当位置。

d) 视频内容显式标识应位于视频画面的边或角。

e) 视频内容显式标识使用的字型应清晰可辨。

f) 视频内容显式标识的文字高度应不低于画面最短边长度的5%。

（视频内容显式标识示例见《AIGC标识方法国标》附录C的C.4）

• 交互场景界面显式标识

（小编：此处无定义“交互式场景，与《AIGC标识办法》第四条（五）中的“虚拟场景”非对应）

a) 交互场景界面显式标识应采用文字提示。

b) 交互场景界面显式标识使用的字型和颜色应清晰可辨。

c) 交互场景界面显式标识应同时包含以下要素：

   1) 人工智能要素：包含“人工智能”或“AI”，表明使用人工智能技术；

   2) 生成合成要素：包含“生成”和/或“合成”，表明内容制作方式为生成和/或合成。

d) 内容周边显式标识应采取以下一种或多种方式：

   1) 在内容展示区域附近持续显示提示文字；

   2) 在内容展示区域的背景均匀添加包含提示文字的显式水印标识。

e) 非内容周边显式标识应采取以下一种或多种方式：

   1) 音频、视频交互区域附近持续显示提示文字；

   2) 交互场景界面顶部、底部等适当位置持续显示提示文字。

（交互场景界面显式标识示例见《AIGC标识方法国标》附录D）

•  “隐式标识”的位置:
  在生成合成内容的文件元数据中添加隐式标识；
•  “隐式标识”的信息和格式:

a) 隐式标识应包括以下要素：

   1) 生成合成标签要素：内容的人工智能生成合成属性信息，包括确定、可能、疑似；

   2) 生成合成服务提供者要素：生成合成服务提供者的名称或编码；

   3) 内容制作编号要素：生成合成服务提供者对该内容的唯一编号；

   4) 内容传播服务提供者要素：内容传播服务提供者的名称或编码；

   5) 内容传播编号要素：内容传播服务提供者对该内容的唯一编号。

b) 元数据隐式标识格式应符合《AIGC标识方法国标》附录E。

c) 确定、可能、疑似为人工智能生成合成的内容文件中，应仅保留一份元数据隐式标识。

（元数据隐式标识示例见《AIGC标识方法国标》附录F）

提供网络信息内容传播平台服务的服务提供者需要落实“平台责任”，对于上线平台发布的应用和信息需核验文件元数据中是否含有隐式标识：

• 对于含有隐式标识的，应当采取适当方式在发布内容周边添加显著的提示标识，明确提醒用户该内容属于生成合成内容；

• 文件元数据中未核验到隐式标识，但用户声明为生成合成内容的，应当采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容可能为生成合成内容；

• 文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播平台服务的服务提供者检测到显式标识或其他生成合成痕迹的，可识别为“疑似生成合成内容”，采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容疑似为生成合成内容；

对于确为、可能和疑似生成合成内容的，应当在文件元数据中添加生成合成内容属性信息、传播平台名称或编码、内容编号等传播要素信息；

提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。

【平台方】互联网应用程序分发平台在应用程序上架或上线审核时，应当核验服务提供者是否按要求提供生成合成内容标识功能。

【服务提供者】AI服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。

【服务提供者】如用户需要服务提供者提供没有添加显式标识的生成合成内容，可在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并留存相关日志不少于六个月。

【用户】用户向平台方上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识。

上述《人工智能生成合成内容标识办法（征求意见稿）》及配套国家标准《网络安全技术 人工智能生成合成内容标识方法（征求意见稿）》的发布，标志着我国对于AI生成的治理和监管进入更加规范、细致、技术化、标准化的阶段，并将全面建立起AI生成物标识的治理体系。

提供AIGC服务的企业、平台需要特别注意“显式标识”和“隐式标识”的要求。这不仅仅是为了遵守法律规定，也是为了在生成合成内容的生成、应用、传播过程中，避免因标识不全或不当而引发的风险。

《互联网信息服务深度合成管理规定》第十六条：深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。

《互联网信息服务深度合成管理规定》第十七条：深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况……深度合成服务提供者提供前款规定之外的深度合成服务的，应当提供显著标识功能，并提示深度合成服务使用者可以进行显著标识。

《生成式人工智能服务管理暂行办法》第十二条：提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

《互联网信息服务算法推荐管理规定》第九条：算法推荐服务提供者应当加强信息安全管理，建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输。

《标准化法》第二条：强制性标准必须执行。国家鼓励采用推荐性标准。

《标准化法》第十条：对保障人身健康和生命财产安全、国家安全、生态环境安全以及满足经济社会管理基本需要的技术要求，应当制定强制性国家标准。…… 强制性国家标准由国务院批准发布或者授权批准发布。

《网络安全法》第二十二条：网络产品、服务应当符合相关国家标准的强制性要求。

本文系律师使用专业AI应用工具生成，生成物权利完整归属使用者。所有权利保留，谢绝用于洗稿或AI训练。

点击下方卡片关注公众号

想要获得更多资讯内容

请扫码关注我们

M姐数据合规评论

微信号｜M_DigitalLawandLife