10月18日凌晨,演员吴越的一条微博打破了深夜的宁静。没有预热,没有客套,她直接点名一个名为“花姐”的账号,语气罕见地愤怒:“谁在利用AI肆意抓人替自己作恶?这位“花姐”你骗了多少人的钱?请如数奉还,太恶劣。”寥寥数语,揭开的是一条利用AI换脸与语音克隆技术伪造明星带货、收割粉丝钱包的黑色产业链。


事情的起因是一个名为“花姐”的网络账号,发布了一段以“明星同款、吴越推荐”为噱头的护肤品推广视频。视频中,“吴越”的面容与声音几乎以假乱真,音频里“她”言之凿凿:“这个产品不是他们找我,是我找他们……效果是真的非常直观。”甚至放出“今天我直接送,闭着眼睛用闭着眼睛囤,孕妇妈妈都能用”的夸张话术。

然而,这一切并非吴越本人所为——画面是AI换脸合成的,声音是AI拟声克隆的,所谓的“推荐”从头到尾都是一场精心设计的骗局。值得注意的是,该视频下方虽标注了“作者提示:含AI生成内容”,但这行小字显然无法抵消假冒明星背书带来的误导与伤害。

这条造假视频的末尾还出现了“邓亚萍”相关的带货画面。翻看该账号,多条打着“乒乓球冠军邓亚萍推荐”旗号的广告视频赫然在列——同一个账号,同一套手法,换一张脸、换一个名字,继续收割信任。吴越的愤怒质问因此更显沉重:这位“花姐”到底骗了多少人的钱?

吴越的遭遇并非孤例。演员温峥嵘此前同样遭遇AI盗播,她本人曾亲自进入假直播间质问,却被对方秒速拉黑,无奈感叹“我现在就很难证明我是我”。从吴越到温峥嵘,这类骗局的逻辑高度一致:盗用名人的公信力,以“明星同款”“名人推荐”为诱饵,推销低成本甚至三无商品,最终买单的是那些冲着信任下单的粉丝和消费者。


近年来,AI深度合成名人、换脸换声的乱象层出不穷、屡禁不止。技术门槛在降低,造假成本在缩水,而维权成本却高得不成比例——明星本人要自证“我不是我”,普通消费者更难分辨屏幕那头究竟是真人还是算法。

当“含AI生成内容”的小字沦为造假者的免责挡箭牌,平台审核与监管追责必须跟上技术的步伐。
回到吴越那条凌晨的微博,最刺眼的是“肆意抓人替自己作恶”几个字。AI没有善恶,但操纵AI的人有。当一张脸、一把声音可以被随意抓取、拼接、贩卖,受损的不只是明星的肖像与名誉,更是每一个普通人对着屏幕付出的那份信任。