(来源:北京市竞天公诚律师事务所,作者:石钛戈)

2024年9月14日,国家网信办公布了《人工智能生成合成内容标识办法(征求意见稿)》(下称“《内容标识办法》”)以及配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法(征求意见稿)》(征求意见稿)(下称“《内容标识方法》”,与《内容标识办法》合称为“标识规范”),公开征求公众意见。本文将结合这两份文件的主要要求,分析这些要求中待改进完善之处,并讨论开展生成式人工智能服务的中国企业如何准备以符合这些新规的要求。

一、标识规范的法律基础、规制对象和适用范围

这两份人工智能生成内容监管的重要文件的背景,是为了应对人工智能技术,特别是内容生成合成技术及其应用迅猛发展所带来的国家安全、信息安全、虚假信息传播、版权侵权等一系列复杂问题。在生成式AI广泛应用的背景下,缺乏标识的生成合成内容可能被用于恶意操控舆论、误导公众,甚至威胁国家政治、经济、社会稳定。标识规范的目标是通过对生成合成内容的显式和隐式标识,全面规范AI生成合成内容,确保信息来源可追溯,保护公民、企业和社会的合法权益,同时防范虚假信息、网络犯罪及不当内容传播对国家安全的潜在威胁。最终的治理目标,是在促进AI技术的透明和健康发展的同时为国家安全和社会稳定提供有力保障。

1、法律基础

国家网信办在发布征求意见稿时,明确援引了《网络安全法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》及《生成式人工智能服务管理暂行办法》作为实施内容标识的法律依据,上述法律法规明确了有关运营者在信息内容安全方面的安全义务与责任。

其中,《网络安全法》第47条要求网络运营者“加强对其用户发布的信息的管理,发现法律、行政法规禁止发布或者传输的信息的,应当立即停止传输该信息,采取消除等处置措施,防止信息扩散,保存有关记录,并向有关主管部门报告”。《互联网信息服务算法推荐管理规定》第9条要求算法推荐服务提供者“发现未作显著标识的算法生成合成信息的,应当作出显著标识后,方可继续传输”。《互联网信息服务深度合成管理规定》第16条要求深度合成服务提供者对使用其服务生成或者编辑的信息内容添加不影响用户使用的标识,并保存日志信息;第17条进一步要求对五类可能导致公众混淆或者误认的具有生成或具有显著改变信息内容的功能服务进行显著标识,其他服务则应“提供显著标识功能”并提示使用者可以进行显著标识。《生成式人工智能服务管理暂行办法》第12条,则再次强调,服务提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

2、规制对象与适用范围

两份标识规范的规制对象均为“人工智能生成合成内容”,在《内容标识办法》中被定义为利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息;在《内容标识方法》中则列举了生成合成的技术手段,包括“深度学习、虚拟现实等”。

《内容标识办法》强调其适用范围为符合《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》而提供网络信息服务的提供者。另一方面,该办法又沿袭了《生成式人工智能服务管理暂行办法》第2条第3款的例外:即如果有关机构和企业仅仅研发、应用生成式人工智能技术,而未向境内公众提供生成式人工智能服务的,则不适用该办法的要求。

《内容标识方法》的适用范围,则在生成合成服务提供者之外,还适用于内容传播服务提供者所开展的标识活动,后者被定义为“提供网络信息内容传播服务的网络信息服务提供者”。

二、标识规范的主要合规要求

1、显示标识与隐式标识

在两份标识规范中,内容标识的要求被明确划分为两大类:显式标识和隐式标识。这两类标识共同作用,以确保生成合成内容的透明性,保护用户的知情权,同时为监管部门和内容传播平台提供技术支持,以打击虚假、误导性或不正当的内容传播行为。

(1)显式标识的应用要求

显式标识是指用户在浏览、收听、观看人工智能生成内容时,能够直接感知到的标识。该类标识的作用在于向用户明确提示,当前所接触的内容是由人AI生成或合成的。显示标识的强制应用范围为《互联网信息服务深度合成管理规定》第17条第1款规定的五类情形,包括:

  • 智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务;

  • 合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务;

  • 人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务;

  • 沉浸式拟真场景等生成或者编辑服务;

  • 其他具有生成或者显著改变信息内容功能的服务。

在此基础上,两份规范详细规定了显式标识的应用范围和具体操作方法。

a.文本内容标识:

在人工智能生成的文本内容中,显式标识应放置于文本的起始、末尾或中间位置或交互场景界面或文字周边。这些位置需包含“人工智能”或“AI”以及“生成”或“合成”字样,以确保用户在阅读过程中能够及时识别该内容的生成方式。此外,文本的显式标识还需要采用清晰易辨的字体和颜色,以确保不被忽略或误解。

b.图片内容标识:

对于图片内容,显式标识应放置在图片的边缘或角落。标识需要包含“人工智能”或“AI”字样以提示系AI生成,以“合成”或“生成”字样明确提示该图片是通过生成或合成技术制作的。标识的大小需达到一定的标准,《标识办法》中指出标识文字的高度不得小于图片最短边的5%,以确保标识足够醒目,不会被用户忽视。

c.音频内容标识:

对于音频生成的内容,显式标识要求通过语音提示或音频节奏来呈现或在交互场景界面中添加显著的提示标识。在音频的起始、末尾或中间适当位置,添加提示性语音,例如“该音频由人工智能生成”。此外,文件还允许使用特定的节奏作为标识,如摩斯码中的“短长 短短”节奏,代表“AI”。这一标识方式不仅可以融入音频流,还能确保用户在不同的音频交互场景中识别内容来源。

d.视频内容标识:

视频内容的显式标识需要在视频的起始画面添加显著标识,用户应在播放视频的第一时间看到内容生成来源。此外,标识还可以位于视频的末尾或中间,并需显示在视频的边缘或角落。标识字样同样以“人工智能”或“AI”字样以提示系AI生成,以“合成”或“生成”字样提示生成或合成技术制作。与图片内容类似,视频显示标识也需要达到一定的尺寸标准,确保标识在视频的整个播放过程中清晰可见。

e.虚拟场景和交互场景标识:

针对虚拟场景的内容生成,显式标识应在虚拟场景的起始画面加入标识,在虚拟场景持续服务过程中,还可根据场景特点选择适当位置添加显式标识。

对于交付场景而言,显示标识应为文字,字型和颜色应清晰可辨,分别以“人工智能”或“AI”字样以提示系AI生成,以“合成”或“生成”字样提示生成或合成技术制作。其中,内容周边的标识位置为在内容展示区域附近持续显示提示文字或在内容展示区域的背景均匀添加包含提示文字的显式水印标识。对于非内容周边显式标识的具体方式为:音频、视频交互区域附近持续显示提示文字或交互场景界面顶部、底部等适当位置持续显示提示文字。

此外,《内容标识办法》进一步强调,服务提供者提供生成合成内容下载、复制、导出等方式时,应当确保文件中含有满足要求的显式标识。

改进与完善建议:显式标注要求的灵活性不足,建议允许对不同场景灵活应用标注方式。

《内容标识方法》第5节中要求针对文本、图片、音频、视频等内容的显式标注需在固定位置显示,如文本的起始、末尾或中间位置。虽然这种设计有助于确保标注不被忽略,但在实际应用场景中,尤其是用户体验和界面设计方面,过于固定的标注要求可能影响内容的可读性或用户体验。建议允许服务提供者根据具体应用场景(如社交媒介、虚拟现实、呼叫中心通话等)灵活选择标注的具体位置或方式,同时确保标注的显著性和可识别性。

(2)隐式标识的应用要求

相较于显式标识,隐式标识不易被用户直接感知,通常通过技术手段嵌入到生成内容的文件数据中。这类标识的主要作用在于为监管部门和平台提供追踪和验证信息,防止生成内容被恶意篡改或用于不当传播。按照《互联网信息服务深度合成管理规定》第十六条的要求,隐式标识应当添加在生成合成内容的文件元数据中。

a.文件元数据中的隐式标识:

元数据是位于文件头部的描述性信息,用于记录内容来源、属性、版权等关键信息。隐式标识需包含以下要素:

  • 生成合成属性信息:明确该内容是确定、可能或疑似由人工智能生成的;

  • 服务提供者信息:标注生成合成内容的服务提供者名称或其唯一编码;

  • 内容编号:为生成的每一份合成内容分配唯一的编号,确保内容的可追踪性。

《内容标识方法》还进一步规定,对于内容传播服务者而言,隐式标识还需要包括如下要素:

  • 内容传播服务提供者信息:内容传播服务提供者的名称或编码;

  • 内容传播编号:内容传播服务提供者对该内容的唯一编号。

通过这些元数据隐式标识,内容传播平台和监管部门可以轻松识别内容的生成来源,并根据标识信息进行验证。这种隐式标识还能够防止内容传播过程中被恶意篡改或伪造,为数字内容的安全性提供保障。

b.数字水印的应用:

《内容标识办法》还鼓励服务提供者在生成的合成内容中使用数字水印技术。数字水印是一种隐藏在内容内部的数据,普通用户无法轻易感知或删除。通过水印技术,可以进一步增强隐式标识的稳健性,确保内容在传播和下载过程中始终保留其来源信息。数字水印技术特别适用于图片、视频等内容的隐式标识,通过这种方式,服务提供者可以有效保护其内容版权和生成信息。

改进与完善建议:隐式标识的技术要求需更具兼容性和标准化

标识规范要求隐式标识应嵌入文件元数据或使用数字水印等技术。这一要求虽然加强了内容的可追溯性,但隐式标识的技术实现可能在不同平台和系统中面临兼容性问题,特别是在生成内容的跨平台发布和应用场景中,可能不同服务提供者的技术存在差异。因此,建议在《内容标识方法》附录E中除了格式要求,进一步明确隐式标识和数字水印技术的兼容性要求,并与我国已有或在制订的国家标准接轨,以便服务提供者更有效地实施标识规定。

2、网络信息内容传播平台的责任

《内容标识办法》还对提供网络信息内容传播平台的服务提供者,就涉及生成合成内容的传播提出了额外的合规要求,尤其在处理和核验生成合成内容时,平台需要承担标识验证的责任。

首先,平台应核验上传内容的文件元数据,确认是否包含隐式标识。如果检测到隐式标识,平台应在内容发布周边添加显著的提示标识,明确提醒用户该内容是由人工智能生成的。如果没有检测到隐式标识,但用户声明内容为生成合成内容,平台也应采取措施在发布周边添加提示标识,提醒用户该内容可能为生成内容。

此外,若平台检测到没有隐式标识的内容但带有显式标识或其他生成痕迹,平台可判断该内容为疑似生成合成内容,并在发布时添加提示标识,提醒用户该内容可能是由人工智能生成的。对于确认为、可能或疑似生成合成内容的,平台还需在文件元数据中添加传播要素信息,如传播平台名称或编码、内容编号等,确保内容的可追踪性和合法合规性。同时,平台应提供便捷的标识功能,提醒用户主动声明发布的内容是否包含生成合成内容,确保内容的透明性和合法性。

3、服务提供者的其他合规义务

《内容标识办法》为服务提供者规定的合规义务还包括:

(1)充分披露义务

服务提供者应在用户服务协议中明确说明生成合成内容标识的方法和样式,确保用户在使用相关服务时知悉并理解其标识义务。

此外,在用户特别要求的情况下,服务提供者可以提供无显式标识的生成合成内容,但必须首先通过用户协议向用户明确其标识义务和使用责任,并保存相关日志不少于六个月。

(2)执行强制性国家标准

作为《内容标识办法》配套的《内容标识方法》是网络安全领域比较少见的强制性国家标准,这也再次体现了监管部门对于人工生成合成内容进行标注的重视程度,因为这项措施这是实施生成式人工智能应用治理的一个关键技术基础。因此《内容标识办法》第11条也强调了服务提供者在开展标识时遵循该国家标准的义务。

(3)备案和配合执法

为了确保内容标识要求的贯彻和执行,《内容标识办法》要求服务提供者开展算法备案、安全评估等流程,应当提供符合该办法要求的生成合成内容标识的材料。这预示着后续的算法备案、安全评估、生成式人工智能服务备案(大模型备案)过程中,将会审核内容标识的执行情况。但对于已经完成算法备案、安全评估的生成式人工智能服务而言,是否需要就落实标识情况进行补充备案或提交证明,仍待备案监管部门的进一步明确。

此外,《内容标识办法》进一步要求服务提供者通过标识信息共享,为有关国家机关的防范打击违法犯罪活动提供支持和帮助,这也是实施内容标识机制的重要目标之一。

4、应用分发平台和用户义务

《内容标识办法》第7条要求互联网应用程序分发平台在审核应用程序上架或上线时,必须核验服务提供者是否按照规定提供生成合成内容的标识功能,确保生成的AI内容在应用分发和使用环节符合合规要求。

该办法第10条强调了用户上传生成合成内容时的主动声明义务,要求用户使用平台提供的标识功能进行标识,同时禁止任何组织和个人恶意删除、篡改、伪造或隐匿标识,不得不当使用标识侵害他人合法权益。

改进与完善建议:建议补充对使用者违反标识要求的处罚措施

现有《内容标注办法》第13条,仅宽泛的规定,“未对生成合成内容进行标识造成严重后果的”,由网信等有关主管部门依法进行处罚。这一条关注的违法行为仅限于“未标注”行为,但对第10条中所涉及的使用者的行为(包括但不限于删除、篡改、伪造、隐匿、滥用和虚假标注)缺乏明确的惩罚措施。为了惩罚某些生成合成服务及其内容的使用者(包括机构或个人)恶意滥用生成内容,通过破坏、篡改、删除等规避标注等方式来逃避和妨碍监管、制造和散播虚假信息,建议在《内容标注办法》中补充针对上述情形的惩罚措施或列明可供援引的其他法律和行政法规,这将有助于提升标识制度的严肃性和可信度,确保标识要求的有效实施。

三、服务提供者的应对策略

虽然这两份标识规范仍在征求意见阶段,但作为生成式人工治理的一项重要机制,可以预期将在较短时间内落地执行。在中国开展生成式人工智能服务的企业一方面应结合生成式人工智能应用的业务实际,在征求意见期间内积极反馈提交修订建议;另一方面应尽早采取合规措施,避免潜在的监管风险。有关企业可以从如下几个方面采取行动:

1、技术准备

升级现有系统,确保标识合规:服务提供者应在其内容生成系统中嵌入标识功能,确保生成的文本、图片、音频和视频内容都能够按照要求自动添加显式和隐式标识。不仅涉及在生成过程中进行标识添加,还需要在内容传播和下载环节中保证标识的完整性和可追溯性。

采用数字水印技术增强隐式标识:隐式标识的技术性较强,企业需要确保其内容元数据中能够稳定、准确地嵌入服务提供者信息、内容编号等追踪信息。采用数字水印技术能够在不影响用户体验的前提下,确保内容的安全性和可追溯性。

2、管理措施

制定并更新用户协议:服务提供者需在用户协议中明确规定生成合成内容标识的管理规范,告知用户使用合成内容时应遵守的法律义务和责任。特别是对于希望生成无显式标识内容的用户,需考虑通过弹窗、单独勾选等强化告知和确认的方式明确用户的相关义务与责任。

加强内部合规培训与监督:服务提供这企业内部应当组织培训,使员工熟悉新规要求,尤其是在内容生成、编辑和发布环节,确保各部门能够严格按照标识规定操作。管理层与合规部门还应建立合规监督机制,定期检查内容标识的执行情况,确保业务操作符合监管部门的要求。

建立内容追踪和日志管理系统:为了确保内容生成、发布的可追溯性,服务提供者应当建立健全的内容追踪系统,记录每个生成合成内容的相关数据,尤其是隐式标识中的服务提供者信息和内容编号。此外,公司还需对用户的操作行为进行详细的日志记录,尤其是用户要求生成无显式标识内容的情况,确保六个月操作日期要求的落实。

3、法律合规

加强政策解读,确保合规操作:在标识规范在近期内正式发布,对内容标识的监管和执法力度将可能加大,服务提供者应当及时解读并更新法律合规政策,确保生成的内容及其传播过程符合法律法规要求。公司法律部门、合规团队需要密切关注监管动态,确保在算法备案、安全评估等流程中准确理解和执行有关标识要求。

确保标识符合国家标准:在设计和实施标识时,服务提供者需要严格按照国家标准执行操作,特别是对于隐式标识,其格式和元数据的嵌入方式必须符合《内容标识方法》的要求。

4、用户教育与对外合作

提供便捷的标识功能和用户提示:服务提供者需在其平台和相关应用上为用户提供便捷的标识功能,并在用户上传或发布内容时,设置相应机制提醒他们声明是否为生成合成内容。通过这种方式,服务提供者可以在源头上提高用户的合规意识,避免在内容传播过程中出现法律风险。

与内容传播平台建立合作机制:服务提供者也应与第三方内容传播平台建立合作机制,确保在内容上传、审核、发布等环节中标识管理的有效实施。

四、结语

《内容标识办法》和《内容标识方法》两份征求文件稿的发布表明我国对于生成式人工智能服务的监管进入精细化阶段。特别是国家标准中的详细技术要求展现了监管机构的缜密思虑。从显式标识到隐式标识,再到各类信息内容的具体标识方式,都显示出细致周全的设计。这种精心的安排为AI生成内容治理的标识机制建立了一个系统化、结构化的合规框架。从服务提供者角度,积极响应新的规范要求,尽早规划技术升级、管理规范等手段,确保生成内容的合法性和透明性,有助于在AIGC业务领域的健康和长远发展。

(来源:北京市竞天公诚律师事务所,作者:石钛戈)