据央视记者深入调查发现,利用AI合成声音进行虚假带货的门槛低得令人咋舌。只需花费几十元,就能在网上定制一个明星带货视频。网络上到处都是开源软件,只要有一段清晰的运动员录音,十几二十秒就能学会模仿其声音,卖家甚至还能帮忙合成,这使得任何人都能轻松制作出一个“冠军带货”视频。更有甚者,还有人专门制作教程,教如何将这些视频做得更加逼真,以假乱真,让人防不胜防。
全红婵的家庭此前确实有过卖农产品的经历,而这些不良商家正是利用了这一点,借助AI仿声技术,让全红婵“代言”土鸡蛋,真假难辨,导致粉丝们冲动购买后,收到的产品与全红婵家毫无关系,严重损害了全红婵及其家人的声誉和利益。同样,孙颖莎和王楚钦也无辜被卷入这场闹剧,他们的形象和声音被肆意滥用,沦为不良商家敛财的工具。
这种行为不仅严重侵犯了运动员们的声音权和肖像权,还涉嫌虚假宣传和欺诈消费者,已经触犯了法律红线。根据《民法典》相关规定,公民的人格权受法律保护,任何组织或者个人不得侵害。而这些不良商家利用AI技术仿冒运动员声音和形象进行带货,无疑是对运动员人格权的公然侵犯。同时,他们的虚假宣传行为,也违反了《反不正当竞争法》,扰乱了正常的市场秩序。
面对这一乱象,市场监管部门已经迅速行动起来,部分平台也开始对涉事账号进行封禁,对虚假带货视频进行下架处理。但由于AI合成内容难以追踪和辨别,仍有不少漏网之鱼,换个马甲便又重新出现在网络上,继续行骗。网络安全专家建议,平台应利用先进的技术手段,建立专门的AI合成内容审核机制,对上传的视频进行严格筛查,一旦发现问题,立即下架处理,绝不能让这些虚假内容在平台上长时间流传。此外,对于泛滥的开源AI模型,相关部门也应加强源头管理,提高使用门槛,杜绝随意合成他人声音的乱象。
值得庆幸的是,从9月1号起,新规将正式实施,AI合成内容都必须加上明确标识,这无疑是给这场混乱的AI带货乱象套上了一个“紧箍咒”。但要真正杜绝此类现象的发生,还需要监管部门、平台以及社会各界的共同努力,形成强大的监管合力,让违法者付出沉重的代价,才能从根本上遏制这种恶臭行为的滋生。
孙颖莎、全红婵、王楚钦等运动员,他们在赛场上为了国家荣誉,日夜苦练、奋力拼搏,承受着巨大的压力和伤痛。他们的努力和付出本应得到尊重和保护,而不是被别有用心的人利用,成为赚钱的工具。这场由AI引发的恶臭闹剧,不仅伤害了运动员们的感情,也损害了广大粉丝和消费者的利益,更破坏了公平公正的网络环境和市场秩序。必须对这些违法违规行为予以严惩,还运动员一个清白,还网络一片净土,还市场一份安宁 。唯有如此,才能让体育精神得以真正弘扬,让运动员们能够心无旁骛地在赛场上追逐梦想,为国争光。