官方网站-首页

伴(bàn)随(suí)着(zhe)人(rén)工(gōng)智(zhì)能(néng)技(jì)术(shù)的(de)加(jiā)速(sù)发(fā)展(zhǎn)近(jìn)年(nián)来(lái)，关于(yú)AI深(shēn)度(dù)伪(wěi)造(zào)技(jì)术(shù)、AI虚(xū)假(jiǎ)泛(fàn)滥(làn)等(děng)现(xiàn)象(xiàng)屡(lǚ)禁(jìn)不(bù)止(zhǐ)，日(rì)前(qián)国(guó)家(jiā)互(hù)联(lián)网(wǎng)信(xìn)息(xi)办(bàn)公(gōng)室(shì)、工(gōng)业(yè)和(hé)信(xìn)息(xi)化(huà)部(bù)、公(gōng)安(ān)部(bù)、国(guó)家(jiā)广(guǎng)播(bō)电(diàn)视(shì)总(zǒng)局(jú)联(lián)合(hé)发(fā)布(bù)《人(rén)工(gōng)智(zhì)能(néng)生(shēng)成(chéng)合(hé)成(chéng)内(nèi)容(róng)标(biāo)识(shi)办(bàn)法(fǎ)》（以(yǐ)下(xià)简(jiǎn)称(chēng)“《标(biāo)识(shi)办(bàn)法(fǎ)》”），对(duì)AI内(nèi)容(róng)的(de)标(biāo)识(shi)提(tí)出(chū)了(le)三(sān)大(dà)核(hé)心(xīn)要(yào)求(qiú)，涉(shè)及(jí)显(xiǎn)式(shì)标(biāo)识(shi)、隐(yǐn)式(shì)标(biāo)识(shi)和(hé)平(píng)台(tái)责(zé)任(rèn)。《标(biāo)识(shi)办(bàn)法(fǎ)》自(zì)2025年(nián)9月(yuè)1日(rì)起(qǐ)施(shī)行(xíng)。

在(zài)专(zhuān)家(jiā)看(kàn)来(lái)，当(dāng)前(qián)监(jiān)管(guǎn)部(bù)门(mén)针(zhēn)对(duì)人(rén)工(gōng)智(zhì)能(néng)的(de)治(zhì)理(lǐ)，尤(yóu)其(qí)是(shì)内(nèi)容(róng)治(zhì)理(lǐ)，所(suǒ)遵(zūn)循(xún)的(de)思(sī)路是(shì)“小(xiǎo)步(bù)快(kuài)走(zǒu)”，而(ér)非(fēi)追(zhuī)求(qiú)大(dà)而(ér)全。这(zhè)一(yī)思(sī)路也(yě)符(fú)合(hé)人(rén)工(gōng)智(zhì)能(néng)技(jì)术(shù)的(de)发(fā)展(zhǎn)现(xiàn)状(zhuàng)，与(yǔ)人(rén)工(gōng)智(zhì)能(néng)技(jì)术(shù)在(zài)大(dà)规(guī)模(mó)应(yīng)用(yòng)中(zhōng)的(de)产(chǎn)业(yè)场(chǎng)景(jǐng)相(xiāng)契(qì)合(hé)。

AI生(shēng)成(chéng)营(yíng)销(xiāo)内(nèi)容(róng)必(bì)须(xū)规(guī)范(fàn)标(biāo)注(zhù)

根(gēn)据(jù)此(cǐ)次(cì)发(fā)布(bù)的《标识办法》，人工智能生成合成内容标识主要包括显式标识和隐式标识两种形式，显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

《标识办法》提出，服务提供者提供的生成合成服务，应当按照下列要求对生成合成内容添加显式标识：包括在文本的起始、末尾、中间适当位置添加文字提示或通用符号提示等标识，或在交互场景界面或文字周边添加显著的提示标识；在音频的起始、末尾或中间适当位置添加语音提示或音频节奏提示等标识，或在交互场景界(jiè)面(miàn)中(zhōng)添(tiān)加(jiā)显(xiǎn)著的提示标识等。《标识办法》明确，违反规定的，将由网信、电信、公安和广播电视等有关主管部门依据职责，按照有关法律、行政法规、部门规章的规定予以处理。

中国科学院科技战略咨询研究院研究员肖尤丹向澎湃科技表示，此次新规虽然切口小，但应当把它放到生成式人工智能内容治理的总体框架里，与算法备案管理、生成式人工智能服务管理、深度合成管理相互协调、共同发挥作用的角度去理解。

在肖尤丹看来，当前人工智能的治理，尤其是内容治理，所遵循的思路是“小步快走”，而非追求大而全。这种思路符合人工智能技术的发展现状，也与人工智能技术在大规模应用中的产业场景相契合。

专注于AI信息安全与数字资产保护，隐拓智安科技有限公司的工作人员万嗣芳向澎湃科技分析认为，今后用户刷到AI生成的明星广告时，一眼就会看到“AI生成”提示，会避免被虚假宣传误导。对于AI公司和互联网平台来说，直观的影响在于，使用AI批量生成营销内容时，必须像给商品贴成分表一样规范标注，否则可能面临处罚。

万嗣芳称，这次文件明确要求，AI服务提供者和内容传播平台必须采取措施对AI生成内容进行标识。可以预见，未来AI服务平台和各类媒体平台上都将更加清晰地展示相关标识，帮助公众更便捷地识别AI生成内容和深度伪造信(xìn)息(xi)，相(xiāng)应由AI伪造带来的谣言情况也会随之减少。

肖尤丹认为，接下来AI公司和平台更需要适应新规范下的运营流程。社会对该办法出台的预期比较稳定，办法也预留了半年左右的准备时间，因此，对大多数AIGC服务提供者来说，履行办法中的“标识义务”并没有太大的技术难度和合规成本。尤其是现在国内主流的AI服务提供商，实际上已经在采取类似的标识方式。不过，对于那些提供接口服务或间接向公众提供AI服务的公司来说，或许会需要一个技术调整与合规的过程。

对AI深度伪造病毒式传播是一次“致命打击”

澎湃科技注意到，《标识办法》中第十条明确规定，用户使用网络信息传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。

在肖尤丹看来，这一细则的好处在于，对于那些利用AI技术抄袭、搬运内容的新媒体营销号无疑是一次“致命打击”。

肖尤丹称，使用者在使用网络信息服务发布生成合成内容时，必须要添加相应的隐式或显式标识，否则将无法通过合规要求。“一旦使用者在二次传播过程中添加了自己的内容，却又删除了原有的隐性标识，那么从隐性标识的角度来看，使用者就违反了保证标识完整性和真实性的义务。这与标识义务本身是不同的。”

肖尤丹表示，《标识办法》制度未来的优势在于，过往对于生成式人工智能的监管需要按照每个个案判断，这对平台来说监管识别难度非常大。而该办法出台后，平台方也可以追溯到服务提供者，明确其是否履行了标识义务。

比如，如果使用AI伪造的声音，系统要求在该声音的前后段必须加上显性标识。同时，录音文件本身也应包含隐性标识。如果有人直接搬运并使用伪造声音进行模仿，那么传播平台理论上可以通过显式标识识别出来，可以有效避免AI伪造声音在平台大量传播。

“标识制度的主要目的是用较小的合规成本，较好地解决当前AI技术快速发展带来的新问题。因为标识制度的主要目标是实现大规模、高可靠性和低成本的监管。”肖尤丹说。

律师李昀锴曾代理全国首例AI生成图片著作权侵权案，他认为，《标识办法》的核心是为了遏制AI伪造内容的传播，减少谣言、诈骗等社会危害，也能够推动AI技术在合法框架内发展，保护公众知情权。

如果真(zhēn)的(de)出(chū)现(xiàn)被误导和诈骗的情况，也可以通过标识水印追溯到实际的侵权人、犯罪者。以后，各类平台均可能强制要求标注，未合规的内容可能无法发布。

不过，李昀锴指出，目前来看，隐式标识在技术上能否被有效地规避和移除可能还需要各平台继续探索，寻找一条技术上可行的统一路线。

肖尤丹称，AI技术发展和AI安全发展本身是“一体两面”的关系，但近两年，从投资上的热情来看，大家更愿意投入人工智能技术发展，而不愿意投入人工智能安全方面。他认为，此次《标识办法》的出台，对于AI安全行业的发展也是一个利好的信号。

万嗣芳也坦言，在过去两年，AI行业主要聚焦于模型能力和应用的快速迭代上，安全问题往往被视为次要考量(liàng)。《标识办法》的出台将使企业意识到安全合规的重要性，推动企业加大在安全能力建设方面的投入，相应也为AI安全技术公司创造更多市场机遇。