往期阅读
当前版: 03版 上一版  下一版
上一篇    下一篇
放大 缩小 默认   
AI生成的爽文、“魔改”动画、虚假视频肆意传播……

治理“数字泔水”污染 营造“数字净土”

  2025年底,韦氏词典编辑出版商美国韦氏出版公司将英文单词“slop”(现常译作“泔水”)评选为2025年度热词,并将其定义为“通常由人工智能(AI)批量生成的低质量数字内容”。这让“数字泔水”这一概念逐渐走进公众视野。

  AI生成的爽文、“魔改”动画、虚假视频肆意传播……AI技术在给我们带来诸多便利的同时,也造成大量劣质、无用的信息在网上泛滥,加剧了网络生态“污染”。

  粗暴爽文与“魔改”视频数量激增

  济南市民常朔近期发现,上初二的儿子经常在网上看AI生成的各类爽文,比如主人公在校园以暴制暴替同学“复仇”,或不爱学习最后却能高分“碾压”别人。

  记者通过搜索引擎检索“校园复仇”“校园逆袭”等关键词,大量爽文随即出现。在一些网络社群中,有不少青少年索要这类文章的“资源”。在一些低劣文章的结尾,还留有AI生成的说明。

  出版行业从业者林菁菁说,与此前流行的网络文学相比,近两年出现的AI爽文写作门槛低,只需输入故事大纲、人物等指令,在大模型中加以训练,就能生成相应文章。这类内容主要靠主人公逆袭、反派崩溃跪地求饶等夸张剧情吸引眼球,实则是批量生成、粗制滥造。

  不少学生家长认为,青少年时期是价值观形成的关键时期,AI生成的很多文章渲染“暴力冲突”“物质攀比”等畸形观念,可能催生偏激心态与二元对立思维。

  记者发现,“数字泔水”不止限于文字类的低劣内容,AI技术近年来还被滥用于视频“魔改”传统文化经典,造成认知差异。

  虽然此前相关部门对AI“魔改”视频进行了规范,但在短视频平台上,仍有不少传统文化经典被改得面目全非。例如将《西游记》中人物与西方元素、暴力内容诡异组合,或将《三国演义》中不少打斗场面改成“激光大战”。

  北京交通大学语言与传播学院教授张梓轩说,这种戏谑和解构不仅会传播错误认知,还会割裂文化传承,削弱年轻一代的文化认同与历史敬意,让孩子与严肃阅读的距离越来越远。

  首都师范大学教育政策与法律研究院副院长蔡海龙说,AI生成的垃圾内容普遍存在同质化、套路化问题,对青少年来说,这种内容若长期接触过多,大脑就会变得懒惰,进而影响人们的思考、创造能力。

  揭垃圾信息背后的生产逻辑

  目前,人工智能批量炮制出的逻辑混乱、空洞无物的低质数字内容已渗透至网络的各领域中。为何这类信息会越来越多?

  ——技术滥用,制造大量垃圾信息。“29.9元买爽剧制作教程,有专门生成给孩子看的关键词。”这是记者在一家电商平台咨询时客服所说的。该店铺客服还说:“个把星期就能学会。”记者看到,电商平台上“AI短视频制作教程”很多,有的已售出上千份。

  ——“流量贪婪”,滋生灰色产业链条。部分内容生产者为赚快钱,在短视频或社交平台量产吸引眼球的内容收割流量。例如,短视频平台中屡次出现给珠峰装电梯、给黄河设护栏的恶搞视频。

  ——算法之困,难以走出的“信息茧房”。“低质内容能够广泛传播,也与平台算法机制密切相关。”有业内人士透露,一些平台以点击量、完播率为核心考核指标,低质内容只要有短时长、强刺激的特点,就更容易获得高数据反馈。算法则会根据用户点击记录持续强化推荐,形成“用户点击—算法推荐—更多点击”的循环,使人长期接触同类内容,这让“数字泔水”对人的“包围感”越来越强烈。

  蔡海龙说,以AI“魔改”视频为例,它们通常具有节奏快、刺激强、好理解等特点,契合青少年群体碎片化的媒介使用习惯。有的人可能只是出于好奇点击了一个怪异视频,此后算法就会大量推送同类内容,迅速将其困于“信息茧房”,不断加深其沉浸与依赖。

  应对生成式AI挑战需系统治理

  近两年,关于生成式AI的监管法律规章正逐渐完善。国家互联网信息办公室等四部门联合发布的《人工智能生成合成内容标识办法》已于2025年9月1日施行。根据该办法,所有利用生成式人工智能技术产生的文本、图片、音频、视频等内容,必须进行显著标识,以帮助公众区分虚拟信息与现实信息。2026年1月1日,新修改的《中华人民共和国网络安全法》施行,其中进一步明确了AI内容监管与平台主体责任。

  山东大学哲学与社会发展学院教师王元超说,在监管陆续完善的基础上,相关网络平台也要进一步规范自身行为,对于AI生成的视频,在显著位置标注,并过滤有害、垃圾信息。同时,平台应进一步优化推荐算法,避免过度向老年人、未成年人等群体大量推送AI生成的低质内容。对于违反法律法规、有违公序良俗的内容,应加强自查并配合监管部门坚决防范、打击。

  针对“数字泔水”对青少年的冲击,受访专家认为,学校和家庭应积极引导未成年人多读纸质书,养成学历史、读经典的良好习惯;学校、媒体和网络平台要多提供适合学生群体的优质历史文化读物与影视作品,为孩子们营造一片丰饶的“数字净土”。

  新华社“新华视点”记者 邵鲁文

  (据新华社济南2月2日电)

上一篇    下一篇
 
     标题导航
开局之年中央政治局首次集体学习聚焦未来产业发展~~~
“神农开物二号”在轨试验取得新进展~~~
AI生成的爽文、“魔改”动画、虚假视频肆意传播……~~~
~~~
预计超1.8亿人次!~~~
~~~打造春节消费盛宴
十部门发文~~~
~~~
   第01版:头版
   第02版:要闻
   第03版:国内
   第04版:专题
   第05版:特别策划
   第06版:文件·综合
   第07版:天下
   第09版:民生
   第10版:健康
   第11版:映像
   第12版:产经
以现代化产业新优势把握未来发展主动权
“太空蝴蝶”破蛹展翅
治理“数字泔水”污染 营造“数字净土”
“大历史观”的长远眼光
2026年春运首日出行火热
2026“乐购新春”活动将启
推动低空经济标准体系建设
林升泰同志逝世