AI纠纷审判意见与AI短剧(10)
- 2026-11-17 20:33:20
违反标识规则的法律后果
接着昨天看一下违反标识义务的法律后果。
标识义务不是技术指引,而是硬性要求。AI短剧违反标识义务将面临行政处罚:
《标识办法》第13条规定,违反标识义务,由网信、电信、公安和广播电视等有关主管部门依据职责,按照有关法律、行政法规、部门规章的规定予以处理,并经由《生成式人工智能服务管理暂行办法》第21条、《深度合成管理规定》第22条衔接《网络安全法》《数据安全法》《个人信息保护法》等; 措施涵盖约谈、警告、通报批评、责令限期改正、罚款、责令暂停相关业务、停业整顿直至下架下线,造成严重后果的依法从重处罚; 此前已有报道,网信部门已对“剪映”“猫箱”等未有效落实标识规定的App和网站采取约谈、责令改正、警告、从严处理责任人等措施,并集中查处了一批未添加显式标识、元数据隐式标识缺失的应用程序,予以下架下线处置。
此外,未按《微短剧管理办法》第34条逐集标注的AI短剧,面临警告、通报批评、十万元以下罚款及作品下架处理,且无法通过分类分层审核取得上线备案资格。
《微短剧管理办法》第三十四条规定“使用人工智能技术生成、制作的微短剧,制作机构和播出单位应当遵守国家有关规定,并依据有关规定在每集明显位置添加提示标识”,需要注意的是:
当生成式AI技术介入创作环节,为区别于真人实拍而需标注,例如画面、角色、对白、剧本、音频等由AI生成,仅用AI技术进行字幕生成、剪辑调色等后期辅助工作,不改变人物、场景、台词等核心创作内容的,一般不属于强制标注范围。 标识义务不仅限于正片,还包括投流引流素材; 制作方通常负责在制作阶段嵌入符合规范的显示标识,并向出品方交付合法合规,包括标识合规的成片;出品方负有审核义务,上线前必须确认成片合法合规性,包括标识合规,作为第一责任主体,即使在合同中约定制作方由责任,也要先行对外承担合规义务;播出平台也负有核验义务,播出环节必须落实标识要求,对不合规标注内容应及时采取下架、限流等处置措施。 这里还有一个元数据溯源问题——微短剧管理办法确立了总编辑内容负责制(第32条)、播出单位主体责任(第33条)和内容安全全流程追溯机制,但AI短剧经过转码、压缩、二次剪辑、跨平台搬运后,片头提示可能被裁掉、文件元数据可能丢失,只靠显性水印很难解决违规内容“换马甲”回流,可行的整改路径是把三套编号对齐:监管编号(许可证号、批准文件编号或三类微短剧节目编号)+AI内容编号(标识办法第6条的生成端制作要素)+平台传播编号(传播要素),使三者能够互相对应、逐环节倒查,同时应用数字水印、元数据存证等技术手段打通跨平台溯源链路,完善投诉处置通道、提高违规成本。
民事责任方面,AI标识和生成日志缺失,很有可能会导致制片方等责任主体无法证明内容来源与生成过程,如遇著作权、肖像权、名誉权等纠纷,可能因举证不能而承担不利后果;擅自删除、伪造他人标识的,还可能被认定为不正当竞争,承担停止侵害、赔偿损失等责任。伪造、隐匿标识并用于诈骗、传播虚假信息的,还可能触犯诈骗罪、编造、故意传播虚假信息罪等罪名。
对照AI纠纷审判意见,与“标识”最直接相关的是第19条:
- 第19条(妨害司法秩序)
明确:当事人利用AI自主学习、自主决策的特性,通过删除或者篡改生成合成内容标识、特定指令输入、选择性结果呈现、对抗性干扰等人为干预或误导方式取得虚假证据、捏造基本事实进行虚假诉讼的,法院应当驳回诉讼请求,并视情节罚款、拘留;构成犯罪的依法追究刑事责任;利用AI伪造证据妨碍审理的,依《民事诉讼法》第114条处理。 与之配套还有以下条款,对应前述民事层面的不利后果:
1)第17条(查明事实):确立“证据妨碍推定”——控制书证、电子数据的当事人无正当理由拒不提交,对方主张该证据内容不利于控制人的,法院可以认定该主张成立。标识、生成日志、提示词记录缺失或拒不提供,即落入此条,构成举证不能;
2)第18条(证据审查规则):对电子数据真实性完整性、区块链存证的上链前真实性等作差异化重点审查;
3)第12条(侵害知识产权行为):开发者提不侵权抗辩须提供训练数据来源、训练过程记录、模型运行模式等自证;使用者知道或者应当知道在先作品存在,利用AI生成与在先作品实质相似的作品且无合理抗辩理由,在先作品权利人请求其承担侵权责任的,人民法院应予支持;利用AI实施侵权假冒、虚假宣传、刷量刷单等行为,侵害他人权利或者构成不正当竞争的,依法承担相应责任。
小结一下就是AI标识问题横跨两套规则:微短剧管理办法管“播出时每集亮明AI身份”,标识办法和配套国标管“生成—传播全链条留痕”,意见管“打官司时这些痕迹怎么用、被删了怎么办”,主体合规重点从“结果审查”转向“过程证明”。
当标识合规成为AI短剧不可绕过的规则时,制片方至少需要做到把四层标识(《办法》第34条片头提示+标识办法显式隐式双标识+GB 45438-2025技术规范+深度合成规定显著标识与单独同意)做成工程化流程;视频底层添加不易抹除的数字隐水印;生成日志、提示词、参数、模型版本、素材调用记录按结构化标准留存;成片进行DCI登记与区块链存证,播出平台则需要完成核验隐式标识并追加传播要素、留存日志等工作。
参考:
《人工智能生成合成内容标识办法》
第十三条 违反本办法规定的,由网信、电信、公安和广播电视等有关主管部门依据职责,按照有关法律、行政法规、部门规章的规定予以处理。
《生成式人工智能服务管理暂行办法》
第十二条 提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。
第二十一条 提供者违反本办法规定的,由有关主管部门依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚;法律、行政法规没有规定的,由有关主管部门依据职责予以警告、通报批评,责令限期改正;拒不改正或者情节严重的,责令暂停提供相关服务。
构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。
《互联网信息服务深度合成管理规定》
第十六条 深度合成服务提供者对使用其服务生成或者编辑的信息内容,应当采取技术措施添加不影响用户使用的标识,并依照法律、行政法规和国家有关规定保存日志信息。
第十七条 深度合成服务提供者提供以下深度合成服务,可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况:
(一)智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务;
(二)合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务;
(三)人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务;
(四)沉浸式拟真场景等生成或者编辑服务;
(五)其他具有生成或者显著改变信息内容功能的服务。
深度合成服务提供者提供前款规定之外的深度合成服务的,应当提供显著标识功能,并提示深度合成服务使用者可以进行显著标识。
第十八条 任何组织和个人不得采用技术手段删除、篡改、隐匿本规定第十六条和第十七条规定的深度合成标识。
第二十二条 深度合成服务提供者和技术支持者违反本规定的,依照有关法律、行政法规的规定处罚;造成严重后果的,依法从重处罚。
构成违反治安管理行为的,由公安机关依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。