晦涩又诡异的暗号、混乱又暴力的视频、夸张又古怪的玩具……随着AI(人工智能)的发展,一些借助人工智能生成的内容风靡网络,特别是针对经典文学形象及动画主角的魔改更是令人匪夷所思。
用AI创造怪物种
外形怪诞低俗
“‘通通通通萨胡拉!特啦啦雷洛特雷拉!’这都是什么?儿子最近嘴里总是不停念叨,跟念咒语似的。”家住北京西城区陶然亭的刘女士向朋友们谈起自己的烦恼,并展示了一段手机视频。屏幕上,只见5岁半的儿子正手舞足蹈地重复着一段节奏怪异、语义不明的句子,神情亢奋却又说不清所以。
伴随这些“咒语”般语言一同流行的,还有一批光怪陆离的形象:长着诡异人脸的木棍人,穿着耐克鞋、眼神凶狠的鲨鱼,造型狰狞的鳄鱼头轰炸机……“同学告诉我的,叫外国山海经,这些都是它们的名字。”当刘女士询问这些内容的来源时,得到了如此的回答。
“我大学学的可是文学专业,怎么不知道《山海经》里还有这些形象?”刘女士翻阅了多个版本的《山海经》译注,查询了世界各国神话传说,结果一无所获。最终,在网络上多方求证后她发现,孩子们口中的所谓“外国山海经”,并非来自任何一部有据可查的传统典籍或官方动画,而是由境外匿名论坛或社交媒体上的用户,通过输入一系列毫不相干、充满猎奇色彩的关键词,利用AI图像和音频工具批量生成的。
除了外形怪异,不少围绕这些形象的动画视频中还有许多暴力恶俗、令人不适的元素:木棍人不停向外喷射排泄物、头顶咖啡杯的卡布奇诺小姐暴打木棍人、把AI山海经全部扔进超级大坑消灭……
更令人担忧的是,这些内容通过短视频平台的算法推荐,像病毒一样在儿童群体中传播。李女士也正为这些怪异的行为忧心忡忡,因为在小区游乐场和儿子幼儿园放学的队伍里已经听到了类似的“暗号”。
用AI改编动画片
形象诡异惊悚
除了所谓的“外国山海经”外,网上还有不少基于AI生成的儿童动画片,里面有大量逻辑混乱、暴力血腥的内容。
“国庆家庭聚会,我玩了一会儿表弟的iPad,真是大吃一惊,没想到他竟然看了那么多‘邪典动画’。”高中生朱青对记者说。所谓“邪典动画”,是指将原本深受儿童喜爱的图书音像中的故事人物、情节加以歪曲改造,成为貌似普通动画片,实则却是包含大量暴力、恐怖、色情或极端价值观等不适内容的短片或系列视频。
“我看了几个动画片感觉非常不舒服,里面的动画形象诡异、惊悚,令人感到压抑,小孩子看这个会有什么感觉呢?”为了让表弟远离这些内容,朱青默默在表弟的iPad上拉黑了多个发布相关内容的博主,其中部分博主的粉丝量已经超过十万。
朱青表弟的经历并不是个例。记者在某视频平台看到,大量由AI生成的“二创”短片,简介里悍然标着“儿童动画”的标签,内容却并非儿童友好:孩子们熟悉的“小马宝莉”角色不再是友谊的使者,而是流着眼泪在狂风暴雨中搬砖;可爱猫咪不是艾莎公主的朋友,而是被她奴役,背着沉重的锁链;更有甚者,出现了“猫妈妈疏忽导致猫宝宝掉进绞肉机”“小马入棺”等令人极度不适的情节。
这些以小马宝莉、艾莎公主等动画形象生成的AI动画,披着经典儿童动漫IP的外衣,里面却是逻辑混乱、充满压抑与暴力的“黑童话”,给孩子的认知带来了不小混乱。“艾莎,你太坏了吧!再也不看你的电视了”“小马你怎么了?每天拉货太辛苦了,我有零花钱给你好不好”“艾莎公主,你怎么这么坏呀?我以后再也不相信你了”……类似的留言在视频平台上随处可见。
一位家长感叹,孩子在看了几个动画视频后突然大哭,怎么安慰也停不下来,仔细查看后才发现,孩子刚刚看过的动画视频中,她喜欢的卡通形象被暴力改造了,让孩子倍感伤心。
青少年心理咨询从业者尹方明告诉记者,这类“黑童话”“毒动画”内容利用了AI技术的“缝合”能力,将美好的动画形象与黑暗的叙事强行绑定,本质上是一种精神上的“投毒”,旨在破坏儿童对经典IP建立的信任感和安全感,扭曲其心智成长。“儿童正处于价值观和世界观形成的关键期,他们缺乏足够的辨别能力。这些内容混淆善恶、美化苦难、渲染暴力,会直接误导儿童对真实世界的理解。
据《北京晚报》报道
面对AI伪内容 构建精神屏障
当AI算法能够低成本、无限量地生产内容空虚甚至有害精神“快餐”时,保护孩子们的精神世界不被“数字糟粕”侵蚀成为摆在全社会面前的紧迫课题。
输入更多的优质传统文化内容,成为构建儿童精神世界“屏障”的一种办法。小学教师刘念建议,家长们可以陪孩子观看一些权威渠道推荐的优质内容,“当孩子们见识过真正充满想象力与美学价值的传统文化,那些粗制滥造的‘数字糟粕’就会渐渐失去吸引力。”
从事AI教育行业多年的科技行业从业者周全表示,随着人工智能教育进入基础教育领域,培养学生的批判思维也极为重要。“人工智能时代,批判性思维的培养甚至比学习一项具体的技术更为重要。”