中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境

随着生成(chéng)式人工智能(néng)技术快速发展(zhǎn)，利用人工智能技术生(shēng)成或合成文字、图像、音乐、视频、3D等数字内容成为网络空间内容的主要生产(chǎn)方式，不断为(wèi)数字(zì)经济、产业发展甚至(zhì)社会变革注入强大动力。然(rán)而，伴随内容生成合成门槛(kǎn)的不断降(jiàng)低，新技术的滥用也对网络空间治(zhì)理提出了更大挑战。当前，中美欧等均探索将内容披露和标识义务入法，国内外多家互联网(wǎng)公(gōng)司(sī)也逐步推(tuī)进标识嵌入和(hé)管理举措，内容标识已然成为全球打击虚假有害信(xìn)息(xī)的通(tōng)行做法。为顺应这一实(shí)践(jiàn)趋(qū)势和产业(yè)需(xū)求，国家互联网信息(xī)办公室等部门适(shì)时发布《人工智能生成合成内(nèi)容(róng)标识(shí)办法》（下称《办法(fǎ)》）及配套国家(jiā)标准《网络安(ān)全技术人工智(zhì)能生成(chéng)合成内容标识方法》（下称《标识方法》），全方位、多层次地规范人工智能内容标(biāo)识要求和方(fāng)法，迈出了(le)完善我国人工智能治(zhì)理制度的重要一步。

一、问题导(dǎo)向(xiàng)，破解人工智能生(shēng)成合成内容新(xīn)需求新风险(xiǎn)

立足于生成式人工智能健康发展和规范应用，《办法(fǎ)》以问题为导向，通过系统性、创新(xīn)性(xìng)制度设(shè)计，全面回应了对人工智能生成合成内容(róng)标识的要求。

一是先行提出生成合成(chéng)内容标识的中国方案。针对人工(gōng)智能(néng)内容生成合成带(dài)来的颠覆性风险(xiǎn)挑战，国际层面也在不(bù)断(duàn)探索内容标识方法和路径。欧盟2024年8月正式生效的《人工智能法(fǎ)案(àn)》规(guī)定了要确保人工(gōng)智能生(shēng)成合成内(nèi)容的透明度义务，要求平台添加强制性水印。美国加州2024年8月发(fā)布《数字内容(róng)溯源标识法案》，要求在人工(gōng)智能生成物中(zhōng)嵌入可溯源数据，以确保内容来源的透明度。国际电信联盟2024年(nián)7月发布《检测深度伪(wěi)造和(hé)生成式(shì)人工智能：人工智能水印和多媒体真实性标准研讨会的报告》，包括内容标识在内，初步探讨了深度合成(chéng)内容检测的标(biāo)准协作安排。《办法(fǎ)》根植于我国发展实践，立足长远、着眼前瞻、行动快速(sù)，率先通过标准完善补充生成式人工(gōng)智能综合治理机制，有力支撑了科技向善的治理理念，为(wèi)世界贡献发(fā)展与安全并行的人工智能治理中国方案。

二是(shì)着力加(jiā)强服务(wù)商生(shēng)成合(hé)成内容标识的规范(fàn)性。随着人工智能生成合成内容工具的普及化和可及化发展(zhǎn)，技术应用的门槛较之前大大降低。早在2022年中央网信办等就发布了《互联网信息服务深度合成管理规定》（以下简称《规(guī)定》），明确指出深度合成(chéng)服务提供者(zhě)应当在生成或者编辑的信息内容的(de)合理位置、区域进行显著标识，向公众提示深度合成情况。但《规定(dìng)》主要明(míng)确了需要添加标识的情况，对于添加标识的位置、字型和表达(dá)并未(wèi)做出具体要求，因此各类企业在实施(shī)过(guò)程中出现(xiàn)了文本(běn)内容显式标(biāo)识不明显、难察觉，音频、视频等(děng)内容显式标识(shí)未插入、浅提示，隐式标识少信息、难校验等问(wèn)题(tí)，对于落实监管提出了挑(tiāo)战。出台《办法》，是进一步推进生成合成内(nèi)容标识工作(zuò)的必要举措，对规(guī)范互联网信息(xī)服务(wù)深度合成(chéng)管理、解决生成合成内容标识突出问题、推进信息网络生态环(huán)境治理意义重大，影响(xiǎng)深远。

三是进一步(bù)完(wán)善生成式人工智能监管问(wèn)责体系。生(shēng)成式人工智能生成合成内(nèi)容涉及多种类型的主体，清晰界定(dìng)各主(zhǔ)体义(yì)务更(gèng)有(yǒu)利于压实(shí)主体责任(rèn)，便利技术检测实(shí)施(shī)，进(jìn)而落实精准问责(zé)。《办法》不仅界定了人工智能生成合成内容的基本概念，更针对(duì)服(fú)务提供者、传播平台、应用(yòng)服务分发平(píng)台和用户(hù)分别规定(dìng)了具体标识要求，为(wèi)各相关主体落实合规指明了方(fāng)向。由此，《办法》就现行责任制度作(zuò)出补充，充分(fēn)细化了《规定》提出的深度合成服(fú)务提供者和技术支(zhī)持者行为规(guī)范，为促进新技(jì)术新应(yīng)用的规范发展提供了(le)有益范例。

二、明确要求，促进人工智能生成合成内容精细(xì)化(huà)治(zhì)理

人工智能生成合成内容不仅(jǐn)包括文本、图像、音频、视频等多种表现形(xíng)式，更在“元宇宙”等交互式、沉(chén)浸式场景中提供了更(gèng)多(duō)实现方案。《标识方(fāng)法》对于人工(gōng)智能生成合成内容进行了(le)全方位覆盖，并且进一步明确了《办法》要求和具(jù)体操(cāo)作(zuò)指引。

一是区分显式标识和隐式标识规范要求。为满足当前可感知和不可感知的两类标识方法需(xū)要，《标识方法(fǎ)》清晰阐述了各(gè)自的(de)关键要素要求，对于显式标识主要围绕文字(zì)要素、位置、字型、颜色、音频节奏、视频(pín)像(xiàng)素和交互提(tí)示(shì)等提出要求，对于元(yuán)数据(jù)和(hé)内容隐(yǐn)式标识(shí)提出(chū)生成合成标(biāo)签要素、服务提供者要(yào)素(sù)和内容编号(hào)要素(sù)等(děng)关键指引。

二是(shì)列举显式标识典型(xíng)应用场景。《标识方法》通过列举式的(de)方式对于显式标识的应用场景做出了进一(yī)步细化(huà)，在《规定(dìng)》中提到的五类显著标识应用场景之外(wài)加以补充，包括文生图片等图(tú)片内容(róng)生成服务；音乐等音频(pín)内容生成(chéng)服务；文(wén)生视频、图(tú)生视(shì)频等视频内容生成服务。新列举的三类典型应(yīng)用场景属于2022年后(hòu)迅速发展(zhǎn)起(qǐ)来新型生成合成内容形式(shì)，尤其是ChatGPT、Sora展示出视频内容生成(chéng)的强大(dà)潜能。《标识方(fāng)法》囊括此(cǐ)三类典型应用场景有(yǒu)利于针(zhēn)对性、前瞻性开展监管，符合生成(chéng)式人工智能的(de)技术原(yuán)理(lǐ)与产业需要。

三是(shì)规范元数据隐式标识(shí)格式要求。此(cǐ)前生成合成内容隐式(shì)标识方法(fǎ)在不同规模、不同技术水平的企业间应用各不相(xiāng)同(tóng)，标识的标签(qiān)信息也未有一致，这就(jiù)导(dǎo)致(zhì)识别隐(yǐn)式标识(shí)对于监管主体和内容平台而言面临挑战(zhàn)。《标识(shí)方法》为(wèi)解决这一问题，对于隐(yǐn)式标识扩展字段关键词和应包括的标(biāo)签、编号、预留字段的值等添(tiān)加了具体(tǐ)说明，为行业统一、稳(wěn)定、持续落实(shí)隐式标识要求提供了有效措施。

四是(shì)展示显式和隐式(shì)标识各要求对应示例。《标识方法》以图(tú)片(piàn)示例(lì)的形(xíng)式对于各类显式和隐式标识要(yào)求(qiú)进行了展示(shì)，有助于(yú)企业(yè)直观了解标(biāo)准要求，避免因(yīn)文(wén)字表述引(yǐn)发的模糊(hú)和歧义，从而推动行业协同(tóng)落实，提升治理效能。

三、守正创新，兼顾内容生成合成服(fú)务管(guǎn)理与技术创(chuàng)新应用

人(rén)工(gōng)智能生成合成技(jì)术(shù)应在(zài)安全(quán)的前提(tí)下规范使用、加速发展，以高水平的治理保障高质量发展(zhǎn)。《办法》及《标(biāo)识方法》充分考(kǎo)虑“用”和“管(guǎn)”两侧需(xū)求，最大限度(dù)减少内容标识对于用户使用的影响，推动企业自主自愿展示标识。一是(shì)提供多种标识方法，适应更多产品形态。《标识方法》对(duì)于文本内(nèi)容显式标识创新提(tí)出(chū)角(jiǎo)标(biāo)形式，仅需在内容末尾加注角标“AI”即可高效满足要求，对于音频内容(róng)则首次提出音频节奏标识，在音频(pín)适当(dāng)位置加入“短长短短”节(jié)奏的摩斯码表示即可达到提示作用(yòng)。此类标(biāo)识方法不仅对于企业而言便于打造不(bù)同产品样态，也能(néng)保障用户使用体验和认知效果，在实现监(jiān)管目的的同时也为技术(shù)发展提供了有效保障(zhàng)。二是划(huà)分不同主体责任，精(jīng)细化避风港(gǎng)原则适用(yòng)。《办法》虽然将标识添(tiān)加的责任主要施加于服务提供者(zhě)和(hé)上传内容的用户，但未对传播平台(tái)和应用分发平台实施“一刀切”式的避风港规则。《办法》采取一种更为精细化的(de)路径，详细规定传播平台应(yīng)当对文件元数据中的扩(kuò)展字段(duàn)进(jìn)行核验，提示用户生成合成内容信(xìn)息，并在文件元数据中添加传播要素信(xìn)息；应用服务分发平台应在(zài)应(yīng)用程序(xù)上(shàng)架或上线审核前核验服务提供者是否按要求提供(gōng)生成合成内容标识功能。此举有助于适当调整服务提供者、使用者和传播分发平台(tái)的义务分配(pèi)，避免相关平台“隐身 ”于深度合成监管体系，从而真正实现(xiàn)齐抓共(gòng)管、协同共治的治理机制，有效维(wéi)护健康向善的信息(xī)网络生态环境。

作者：魏凯，中(zhōng)国(guó)信息通信研究院人工智能研究所所长

来源：“网信中国”微信公众号(hào)

校审(shěn) | 谨言、珊珊

编辑(jí) | 凌霄

未经允许不得转载：湖南迅雷文化传媒有限公司-岳阳广告公司|岳阳喷绘写真|岳阳印刷|岳阳镜面媒体-www.yy-xl.cn 中国信通院魏凯：完善人工智能生成合成内容标识方法构建健康的信息网络生态环境