首页 >行业资讯 >详情

20万条内容被处置,AI“悲惨儿童”为什么成了平台治理的靶心

2026-09-15186浏览

抖音9月10日发布的一则治理通报,把一个不算新的问题推到了台前。据抖音黑板报公告及央广网等媒体报道,近一个月平台共处置涉未成年人违规内容20万条、违规直播间2044个、违规账号8132个。通报中列出的三类典型违规情形里,有一类格外扎眼:利用AI技术生成“未成年人全身烧伤躺在病床上”等内容,刻意营造悲惨处境,诱导用户互动,以此吸粉引流。

 

如果只是普通的内容违规,20万条这个数字并不算异常。抖音今年4月就曾披露过一个月清理20.4万条涉未成年人违规内容的数据,快手全年清理涉未成年人违规信息82万条。真正让这次通报值得行业关注的,是AI生成内容被单独拎出来列为典型违规情形。

 

往前看,AI涉未成年人内容的灰色地带已经存在了大半年。今年1月,抖音就曾公告处置过一批利用AI生成未成年人“卖惨”内容的账号,180个账号因批量发布“早产婴儿住院”“寒冬中未成年人背负柴火哭泣”等AI生成内容被禁言。到了7月,中央网信办启动“清朗·未成年人网络保护”专项行动,将批量炮制猎奇、审丑类AI短剧列为重点整治对象。更近一些,某微短剧头部平台8月单月就拦截下架了138部存在儿童负面情节的AI剧,包括让儿童形象演绎心机、腹黑、总裁等成人化人设。

 

这些案例串在一起,一条线索逐渐清晰:AI生成技术正在被部分创作者当成绕过真人出镜审核门槛的捷径。真人拍摄涉未成年人悲惨内容,演员需要出镜、需要监护人同意、平台审核有据可查。换成AI生成,画面里的孩子是虚拟的,创作者觉得“没有真实的未成年人受到伤害”,审核尺度似乎也可以松一松。但从平台治理的角度看,观众在屏幕前看到的就是一个儿童形象在受苦,内容的传播效果和受众感受不会因为“AI生成”四个字而打折扣。

 

有意思的是,监管和平台对这个问题的回应方式也在变化。早期的治理逻辑侧重于“管形象”——识别出镜者是否真的是未成年人,据此判断是否违规。但AI内容把这个逻辑推到了一个尴尬的位置:画面里没有真人,识别系统抓不到人脸,账号可以辩称“这是虚拟创作”。所以到了今年,治理思路开始转向“管内核”——评判内容优劣、界定违规边界,不在于出镜形象是真人还是AI,而在于受众指向、叙事内容和价值导向。只要以儿童形象为载体、面向公众传播,就应当遵循同一套内容准则。

 

这个转变对创作者来说意味着什么?坦白说,以前那种“打擦边球”的空间正在快速收窄。抖音在通报中表态要“持续强化技术手段,对涉未成年人违规内容从严从重处置”,同时多模态识别模型、人脸实时治理系统等技术手段已在各平台铺开。纯靠AI生成内容博眼球的账号,面临的不仅是禁言封号,还有被清退商业变现资格的风险。

 

从更大的行业背景看,这件事的参考价值不仅限于未成年人内容这个垂直领域。今年上半年,中央网信办在“清朗·整治AI应用乱象”专项行动中,已累计清理违法违规AI生成信息5万余条,各大平台同步优化了多模态识别模型、动态扩充了违规样本库。对内容从业者而言,AI工具提高了生产效率,但不代表可以降低对内容底线的判断标准。尤其是涉及未成年人题材时,AI的“虚拟性”不构成免责理由。

 

一个值得留意的信号是,监管正在从内容端向产业链上游延伸。中央网信办在“清朗”专项行动中明确提出,MCN机构不得利用旗下账号包装炒作网红儿童,不得以学习分享等为名要求未成年人频繁出镜引流牟利。这意味着,即便内容本身由AI生成,如果背后存在机构化的运营和变现链条,同样会被纳入追责范围。对于制作儿童类内容的团队来说,与其在审核红线边缘试探,不如把精力放在合规框架内的内容创新上。毕竟,平台治理的技术能力在迭代,观众的辨别能力也在提升,靠“卖惨”赚快钱的窗口,大概不会一直开着。

 

 

本文主要信息来源:

- 抖音黑板报公告(2026年9月10日发布)

- 央广网《抖音持续治理涉未成年人不良内容 近一个月处置违规内容20万条》

- 澎湃新闻《AI生成未成年人低俗擦边内容,39个账号被无限期禁言!》(2026年1月2日)

- 大河财立方《AI伪造“烧伤儿童”骗流量!抖音1个月处置8000多个违规账号》

- 中央网信办“清朗·未成年人网络保护”专项行动通知及相关报道

- 德州新闻网《AI生成的低俗儿童微短剧,为何屡禁不止?》

- 快手《2026年度未成年人保护报告》

- 中新社《青少年发展蓝皮书:中国未成年网民达1.98亿》

- 新华网《中央网信办深入开展“清朗·整治AI应用乱象”专项行动第二阶段工作》

免责声明: 本文为行业观察与分析,所涉信息均来自公开渠道,仅供内容从业者参考交流,不构成任何投资或经营建议。文中引用的平台治理数据及行业政策以相关方官方发布为准。


我要评论
发表评论

评论(0条)

查看全部评论 >

相关资讯

营收翻倍、利润蒸发八成:两份财报,同一种“增长的坏味道”

82阅读

同一天,同一张脸,3.86亿和800万:十月影市把“确定性”卖出了什么价

121阅读

判赔3万,但音频平台的麻烦才刚开始

91阅读

拿“造爽剧”的尺子,量不出AI算力的全貌

111阅读

龙标后面多了一行字,但观众没有多买一张票

99阅读

连续播放和互动奖励,第一次被要求证明“对未成年人无害”

102阅读

金鸡奖的尺子没有坏,但或许它量的和观众看的不是同一个东西

109阅读

2万亿之后,广告业的增量不在流量里,在“合规的AI”里

106阅读

1元门票撬动7元消费,但这7元不是谁都能挣到

85阅读

酒店预订量超过上海:华晨宇在汤山住了5天,把“演唱会”这个词撑破了

70阅读

章小蕙:从“香港第一败家女”到200万人的“审美导师”,一个把“花钱”变成印钞机的传奇女人

127阅读

美ONE:从一个人到一套系统,连续两年登顶胡润百强榜首,矩阵直播间GMV已破十亿

156阅读

董洁:从“冷清秋”到小红书“带货一姐”,一场关于“慢”的逆袭

200阅读

小潮院长:从“无节操解说”到B站1555万粉的“快乐厂长”,一个把“给人快乐”做成正经事业的大连小伙

131阅读

派芽星球:近千位美食达人、S级MCN,这家杭州机构把“做饭”做成了数据驱动的营销基建

182阅读

乡村小乔:从苏北农家女到千万粉丝“乡村代言人”被官方“抢”着合作,2026藏着一个更大的野心

124阅读

奇东传媒:成立一年拿下S级、三年冲进胡润前十,这家北京MCN把“短视频营销”做成了系统

185阅读

帕梅拉PamelaReif:从“人形AI”到“东北秧歌代言人”,一个德国女孩如何成为1498万中国女孩的“电子私教”

143阅读

绵羊料理:从电视台编导到“料理界押韵狂魔”,一个把厨房变成实验室的“硬核吃货”

150阅读

老番茄:从“B站一哥”到“八年四皇”,一个复旦学霸如何用十年“无用技能”定义B站知识娱乐的天花板

164阅读

麦芽传媒:从MCN到微短剧大王,年入超25亿,海外下载量破1.3亿,这家重庆公司用内容为商业和社会赋能

571阅读

圆宵文化:专注二次元,做到抖音头部,签下832万粉“兔娘”,这家南京MCN27人背后是1.6亿粉丝的支持

374阅读

不尔视界:带着5万元从深圳回武汉,两年做到营收8000万,还拿了省级创业扶持

293阅读

华星璀璨:从4个“蓉漂”小伙伴到签约15万主播,这家成都MCN把旧仓库改成了400个“工业质感”的直播间

304阅读

初颂:不签最多的人,只签最对的人,方圆和迅猛龙特蕾莎都出自这家上海MCN

328阅读

小灿灿新媒体:从“5人1条狗”到全网6亿粉丝,捧出猴哥说车3891万粉,这家南京MCN还把公益做了十年

306阅读

奇光MCN:从《风起陇西》出品方到抖音TOP3,粉丝超10亿,还把这门生意做到了海外

308阅读

无忧传媒:从10个网友到签约10万达人,粉丝20亿,营收超100亿,连续78个月抖音MCN榜首

333阅读

缇苏:用10年把美妆种草做成一个王国,合作品牌超3000个

378阅读

仁汇网络:从西安后海到单日GMV7500万,木森大舞台把草根选秀做成了顶流

354阅读

差点红:这家广州MCN挤进胡润百强第27名,靠的居然是"不急着红",只是认真做着有趣的事

308阅读

最白的乌鸦:一个检察官助理,在修仙世界搞起了“法治建设”

240阅读

黄诗洋:写过《鬼吹灯》和鲁迅的中戏博士,把张桂梅最柔软的一场戏写哭了

202阅读

潘越飞:一个“懒人”如何建起视频号最大的创作者联盟

203阅读

毕心怡:一个画了十几年“人”的插画师,靠一群荡秋千的小动物拿了国际金奖

214阅读

万晓利:一个不爱说话的酿酒工,写了一首替所有人说话的歌

198阅读

丁宽:一个给AI“讲戏”的90后,拍出了中国第一部付费AI短剧

226阅读

奇迹山:签下300位创作者,全网5亿粉丝,奇迹山偏不叫MCN

304阅读

最美妆:捧红“全网Z帅的女人”,叫最美妆却做内容电商,这家南京MCN粉丝超6亿

288阅读

热熠精选

会员登录

公众号

官方客服