规范AI动画生产 护佑儿童健康成长
2026-10-10 14:55:11来源: 光明日报 责编:卢家傲

  今年暑假,不少家长反映,短视频平台上,一些利用生成式人工智能批量制作的“毒动画”混在少儿动画之中,有害内容难以被精准识别和有效拦截。针对此类侵害未成年人身心健康的网络乱象,中央网信办在“清朗·整治AI应用乱象”专项行动中,将利用AI侵害未成年人权益列为重点整治对象。日前,中央网信办通报该专项行动第二阶段工作成效,累计清理违法违规信息561万余条,查处账号4.9万余个,处置违规网站、应用程序等2400余个。

  动画片是儿童成长的重要精神食粮,助力幼儿认知发展与良好人格养成。然而随着人工智能的迅速发展,一些掺杂淫秽色情、暴力血腥和不良价值导向的“毒动画”也悄然进入儿童视野。生成式AI大幅降低了创作门槛,部分创作者利用AI剪辑手段,以无害画面伪装片头规避审核,将不良内容暗藏于视频中段。高流量带来的高额收益持续驱动相关视频的产出,而平台甄别技术未能及时迭代升级,审核存在明显短板,游客模式更使得未成年人保护模式难以切实发挥有效作用。这些乱象不仅触碰了未成年人网络安全的保护底线,也给网络治理带来了严峻挑战。

  面对新技术带来的新问题,必须用法治手段划定边界。未成年人身心尚未成熟,对网络不良信息缺乏甄别能力。一边是平台与内容制作者的商业利益,一边是未成年人身心健康的权益,二者均受法律保护。在法益位阶上,当两种受法律保护的利益发生冲突时,高位阶的法益应当优先受到保护。未成年人的身心健康,是未成年人保护法保护的核心法益,也关乎社会公共利益,其位阶高于平台与内容制作者的商业利益。在未成年人合法权益面前,流量收割等商业利益应作出让步。面向未成年人的网络内容,必须执行比普通网络信息更为严格的管理标准。

  当前,针对未成年人网络安全,我国已出台相关规定,比如《互联网信息服务算法推荐管理规定》要求,算法推荐服务提供者不得向未成年人推送可能引发模仿不安全行为、诱导不良嗜好等可能影响身心健康的信息。《未成年人网络保护条例》要求,大型平台应当提供未成年人模式或专区、建立合规制度,网络音视频等应当设置未成年人模式。未成年人保护法要求,网络服务提供者发现含有危害未成年人身心健康内容的信息,应当立即停止传输、采取删除、屏蔽、断开链接等处置措施,保存记录,向网信、公安等部门报告。

  守护清朗的少儿网络空间,遏制“毒动画”乱象蔓延,内容创作者和平台都应当承担起主体责任。内容创作者应当恪守底线,不得利用AI批量篡改经典动画IP、炮制暗藏不良导向的视听内容,同时更应积极投身优质儿童内容创作。

  有数据显示,2025年获颁发行许可证的国产网络剧片中,青少年题材占比仅约5.4%,优质儿童动画的供给缺口,客观上给“毒动画”留下了生存空间,市场亟需更多健康向上、寓教于乐的精品内容。面对优质内容供给不足和有害内容渗透的双重挑战,网络平台更要做好“守门人”:针对“小猪佩奇”等经典IP被篡改的特征,建立专门的AI模型特征库,对刻意放大血腥暴力元素的视频进行技术拦截和限流;彻底整改未成年人模式,封堵游客登录等系统漏洞。无论未成年人使用本人账号还是监护人账号登录,平台一旦监测到“毒动画”,均应予以拦截或下架。

  监管部门与司法机关要形成合力,通过行政执法与案例指引,推动网络生态持续改善。网信部门开展“清朗”专项行动,依法处置批量制作传播“毒动画”的违规账号。检察机关应发挥未成年人保护公益诉讼职能,针对平台未履行内容审核义务的情形,通过制发检察建议、提起公益诉讼等方式督促整改。当前,一些地方已经积极采取有效措施,比如,2026年9月,贵州江口县检察院依托“茜姐”工作室,联合八部门会签未成年人网络保护协作机制,对履职不到位的情形依法提出检察建议。人民法院在审理涉未成年人网络权益案件中,坚持“最有利于未成年人”原则,依法惩处利用网络侵害未成年人权益的违法犯罪行为,通过发布典型案例明确裁判规则,发挥司法裁判的引领作用,用法治力量为未成年人网络安全筑起防线。

  在未成年人世界观、人生观、价值观塑造的关键时期,营造健康的网络环境,净化儿童网络内容生态,需要内容创作者、平台,以及监管、司法等部门协同发力。唯有以法治筑牢未成年人网络保护的屏障,才能护佑少年儿童在清朗的数字环境中健康成长。

国际在线版权与信息产品内容销售的声明

1、“国际在线”由中国国际广播电台主办。经中国国际广播电台授权,国广国际在线网络(北京)有限公司独家负责“国际在线”网站的市场经营。

2、凡本网注明“来源:国际在线”的所有信息内容,未经书面授权,任何单位及个人不得转载、摘编、复制或利用其他方式使用。

3、“国际在线”自有版权信息(包括但不限于“国际在线专稿”、“国际在线消息”、“国际在线XX消息”“国际在线报道”“国际在线XX报道”等信息内容,但明确标注为第三方版权的内容除外)均由国广国际在线网络(北京)有限公司统一管理和销售。

已取得国广国际在线网络(北京)有限公司使用授权的被授权人,应严格在授权范围内使用,不得超范围使用,使用时应注明“来源:国际在线”。违反上述声明者,本网将追究其相关法律责任。

任何未与国广国际在线网络(北京)有限公司签订相关协议或未取得授权书的公司、媒体、网站和个人均无权销售、使用“国际在线”网站的自有版权信息产品。否则,国广国际在线网络(北京)有限公司将采取法律手段维护合法权益,因此产生的损失及为此所花费的全部费用(包括但不限于律师费、诉讼费、差旅费、公证费等)全部由侵权方承担。

4、凡本网注明“来源:XXX(非国际在线)”的作品,均转载自其它媒体,转载目的在于传递更多信息,丰富网络文化,此类稿件并不代表本网赞同其观点和对其真实性负责。

5、如因作品内容、版权和其他问题需要与本网联系的,请在该事由发生之日起30日内进行。