记者通过购买软件生成的某女星视频。
　　上传视频、声音、文案和背景，短短一分钟，记者就通过购买到的AI数字人视频软件，制作出一段明星推荐产品好用的视频，而购买该软件仅需16.8元。近日，山东一法院判决了一起AI换脸诈骗案，被告人通过AI换脸伪造白富美形象诈骗13万元。案件公布后，AI换脸、数字人制作侵权等现象再次引发关注。记者调查发现，AI技术存在被滥用风险，无论明星还是普通人，均无法幸免。
　　AI软件生成视频只需16.8元
　　记者注意到，在社交及短视频平台上，这样的视频比比皆是。一款水散粉推荐视频中，先后有超过3位知名女星为其代言。而相同内容的产品推荐视频，还出现在包括护肤品、彩妆、减肥保健品等多款产品的推销视频中。
　　这样的视频是怎么生成的呢？记者通过搜索“AI形象”、“数字人”等关键词后，仅淘宝网上就有超百个店铺，不仅可以购买到制作软件，还能提供素材直接下单定制直播或视频专用的数字人形象，价格从十几元到上千元不等。
　　记者下单购买了一款价格为16.8元的AI数字人视频生成软件，店家发送了一个需要通过浏览器下载安装的应用包。在安装过程中，手机系统提示该软件存在风险。安装成功后，记者又上传了随机在短视频平台下载的某知名女星参加官方活动时发布的采访视频，并根据软件提示截取了女星的部分声音。添加“这款产品不错，值得推荐”的文案并更换背景后，短短一分钟，就生成了一段该明星的代言视频。视频中，明星嘴型和文案内容基本吻合，但清晰度不高。
　　记者在另一家店铺同样上传该女星图片、音频和文案，支付135元后，技术人员很快发来一段AI数字人产品推荐视频。该店铺在明知上传视频非下单者本人的情况下，全程未询问用途，也未询问是否取得过该女星的授权。两段代言视频制作完成后，多名该女星的粉丝向记者表示，如果不看原视频和图片，生成的视频几乎可以假乱真。
　　除明星外普通人也不能幸免
　　不仅是流量明星，普通人也不能幸免。此前有媒体报道称，今年8月，电子科技大学人工智能专业研究生校外导师高某收到一条诈骗短信，里面是一段利用AI换脸技术篡改过的酒店房间内不雅视频，被换脸的正是他本人；10月10日，青岛某公司女销冠牟女士也通过社交媒体称，近期发现由AI恶意合成的虚假视频以及与其面部侧脸局部相似的不良视频，对其进行诽谤和侮辱。
　　记者在多个社交平台看到，输入“AI写真”“AI诱惑”等关键词，就能搜索出不少AI生成的明星和普通人的露骨写真，还可以通过短视频中的小程序链接，上传图片生成“AI黑纱私房照”“拳击教练虐腹少女”等擦边视频。在通过“AI”诱惑关键词搜索出的主播中，大部分主播发布的视频都是尺度较大的低胸装、紧身衣等AI女性视频，点赞过万的视频屡见不鲜。
　　此外，部分平台上甚至还能找到指导用户制作并利用“AI”内容起号和变现的教程，有教程发布者称，通过AI生成浴室跳舞、沙滩跳舞并带上相关话题标签，很快就能获得流量。“流量来了，带货自然就来了。”有教程发布者称。
　　对此相关人士表示，在各类AI数字人生成软件泛滥的背景下，随之而来的不仅是侵权行为的频频发生，由此引发的违法行为也正在为行业敲响警钟。
　　据上游新闻报道