来源：经济日报

“一觉醒来，谁在利用AI肆意抓人替自己作恶？”10月18日，曾出演过《沉默的荣耀》等影视剧的演员吴越决定不再沉默。她公开在微博上喊话一个叫“花姐美肤日记”的账号，指出对方盗用自己的脸和声音推销商品。

现在的AI技术确实强，吴越挂出来的“明星同款、吴越推荐”视频片段显示，这个“花姐”账号不仅盗用吴越的形象，连声音都和吴越一模一样。最搞笑的是，视频中还出现了一位跟乒乓球名将邓亚萍高度近似的人，跟着一起推荐。造假者为了图省事，都懒得再做一条视频。

(相关资料图)

这两年被盗用形象的知名人士还不少。演员温峥嵘曾曝刷到多个直播间用她的脸带货，奥运冠军全红婵的声音被AI“克隆”卖土鸡蛋，还拉了孙颖莎、王楚钦的形象跟她一起卖。

为什么连名人都保不住自己的脸？走一遍头条、抖音、小红书、快手、微博等主流平台的发布流程，就能发现AI“盗脸”存在的漏洞：发布者可以自己选择是否添加声明，包括是否“含AI生成内容”“营销内容”“虚假演绎内容”等。也就是说，一条AI换脸带货视频会不会被打上“AI”标签，主要取决于骗子愿不愿意主动承认“我是假的”。

相关选项截图

就算网友看到“含AI生成内容”的提示，其实也搞不懂到底是脸换了、声音换了，还是字幕、特效是AI做的。就像那句话说的，“善良限制了人的想象力”，有几个守法公民能想到，居然有人敢明目张胆地盗用明星形象做虚假广告，还在平台上公开播放。

2025年9月施行的《人工智能生成合成内容标识办法》要求平台核验文件元数据中的隐式标识，并在检测到合成痕迹时对疑似内容添加提示。《最高人民法院关于依法审理涉人工智能纠纷案件的意见》也提出，利用人工智能实施“仿冒名人带货”且构成欺诈，消费者主张惩罚性赔偿的，人民法院依法予以支持。

方向是清楚的，但现实中，平台进行的“核验+疑似处置”高度依赖发布者的自主声明。建在造假者道德自觉上的防线能有多牢靠，就得打个问号了。

我们为什么要一再关注这样的新闻？因为这已经不是第一次了。我们紧盯着吴越的遭遇不放，不仅是为了解决“这一次”，更是为了防止“下一次”。

客观说，深度伪造检测是典型的攻防赛跑，各个平台上，每天发布的视频、直播、图文量那么大，要平台一刻不停地盯住所有账号，成本极高。面对叠加了层层滤镜、多次压缩后的伪造视频，算法往往存在较高的漏报率。直播场景的“即时性”更是监管短板，等算法确认带货视频是伪造的，交易可能早就完成了。

但这些技术难题，不是平台放松风控的理由，提供声明选项，也不代表平台已尽到了审核义务。“名人形象+带货链接+夸张话术”的组合特征明显，容易识别，平台有能力拦截。更值得追问的是，平台设置这类AI内容提示，究竟是帮消费者识别风险，还是替自己免责？普通消费者在面对越来越逼真的AI带货骗局时，该拿什么来保护自己？平台赚了流量的钱，就不能回避这些问题。

监制/王玥

审核/徐胥

编辑/姚亚宁

校对/董世捷（见习）