最近,一批名叫“小海”的苦命男孩在短视频平台上批量涌现。他们对着镜头一口一个“阿姨、妈妈”,哭诉着单亲、窘迫的身世,让不少中老年人看了心疼落泪,纷纷下单买货帮扶。然而,这个让老人们牵肠挂肚的“贴心晚辈”,现实中根本就不存在,全是由AI合成的“数字人”。这些由AI批量生成的“假晚辈”,利用老人们渴望陪伴的心理,盯上了老年人的钱包。
老人独自乘火车
要去山西看望苦命孩子“小海”
今年五月,乌鲁木齐铁路公安乘警在巡视车厢时,发现一位79岁的老人独自乘车远行,神情焦急。乘警上前询问得知,老人不识字,也说不清具体目的地,只知道自己要去山西运城“走亲戚”,看望一个天天在手机里喊她“姨妈”的苦命孩子“小海”。
乘警询问老人见没见过这个视频中的“小海”?老人说,还没去过他那。此时,老人的手机里传来“小海”的声音:“阿姨、妈妈,小海祝你平安健康……”乘警告诉老人:“阿姨我和您说,这直播间里的人是假的。”在乘警的耐心劝说和联系下,这位老人最终下车,使用家人买好的返程票回到了家。
“小海”摇身一变
化身“贴心晚辈”带货推销阿胶
记者在短视频平台搜索发现,让这位老人深信不疑的,正是近期在网络上批量出现的数字人“小海”。这些由AI生成的十几岁男孩形象,无一例外都在上演着“懂事、窘迫、心疼长辈”的苦情剧本。视频中,数字人“小海”说:“阿姨、妈妈,我是小海,同学们都去吃饭了,我躲在教室里面吃馒头。阿姨、妈妈,我有好好吃的馒头……”
先用“躲在教室吃馒头”等虚假身世筛选出最具同情心、最缺乏防备的中老年群体,然后就会推向下一步——带货。在另一段带货视频里,“小海”摇身一变,成了最懂老人心的“贴心晚辈”,开始推荐阿胶。
视频中,数字人“小海”说:“好多阿姨、妈妈都说最近天热,人容易没精神……我后来想了很久,才把这个阿胶糕放上来,因为我发现好多阿姨、妈妈平时太顾家了,可轮到自己就总随便对付。”
调查中记者发现,操作这样一个“小海”账号门槛极低。互联网平台中,几元钱就能买到全套AI数字人生成教程,各种营销话术模板更是比比皆是。同样的文案,换一张脸、换一个声音,就能批量生成出成百上千个“小海”。据央视新闻网