告不完！

靳东谈恋爱，全红婵卖鸡蛋，温峥嵘成最新受害者！

就连央视李梓萌被牵连？

国家终于出手了！

 

01

都说科技改变生活，但科技怎么用，全看使用者的良心。

谁能想到，AI诈骗的风居然刮到了内娱明星身上？

“你是温峥嵘，那我是谁？”

 

深夜下班的温峥嵘，刚打开手机就发现“自己”正在直播。

 

温峥嵘发出一句质问，却直接被直播间拉黑了。

 

近日，演员温峥嵘无奈求助，自曝刷到AI盗播自己。

出道多年，经典角色，可她怎么也没想到，有一天自己得证明“我是我”。

 

而实际上，这种事情已经不是第一次发生，早在4月份之前，就有人说她出现在多个直播间，“同一时段，妆发不同，不同的产品，说着同样的话”。

 

这些“假温峥嵘”在直播间里说得天花乱坠，卖着各种没有正规厂家的产品。

她们不仅动作神态模仿得像，连声音都极为逼真。

 

为此，团队还整理了相关证据，发了律师函。

一天投诉了五十个左右还没开播的仿冒账号，至少拉停了二十个直播账号，举报都要点冒烟了，但无甚大用。

 

因为这些假账号简直是“野火烧不尽，春风吹又生”。

那么这些素材都是从哪里的呢？

温峥嵘带货的直播切片，就是源头。

 

没办法，黔驴技穷的温峥嵘在11月5日进行了三场以“我是真的温峥嵘”为主题的直播，讲述近期被AI伪造、AI换脸直播带货的情况。

把明星逼到这份上，也是少见了。

但温峥嵘的事件不是个例，内娱明星中，受害者有一个“足球队”！

 

02

老戏骨靳东就首当其冲。

 

2020年，一位江西女子在短视频平台上认识了一个自称是靳东的用户。

这个“靳东”对她特别热情，不仅频繁和她聊天，还向她告白、求婚。

为了证明这份“爱情”的真实性，“靳东”还和她合拍了短视频，并发布在平台上。

 

这让女子更加坚信不疑，觉得自己遇到了真爱。

随着感情的“升温”，“靳东”开始以拍戏需要资金为由，向女子索要钱财。

女子毫不犹豫地相信了他，不仅把自己的积蓄全部拿了出来，甚至还打算离家出走，去众筹借钱给对方。

幸运的是，银行工作人员发现了女子的异常行为，并及时联系了警方。

 

警方经过调查，发现这个所谓的“靳东”是不法分子利用AI换脸和变声技术伪造的虚假账号，目的就是骗取女子的钱财。

无独有偶，2023年9月，王先生也遇到了类似的骗局。

 

他的母亲是靳东的忠实粉丝，平时喜欢在短视频平台上关注靳东的动态。

突然有一天，母亲告诉他，自己在平台上结识了“靳东”。

此后，“靳东”就以各种理由向母亲索要钱财，母亲前后为他花费超过了20万。

 

王先生发现母亲的行为异常后，经过仔细询问，才知道母亲被骗了。

他立即报警，警方迅速展开调查，揭开了这起“假靳东”诈骗案的真相。

 

这个犯罪团伙利用AI技术合成靳东的视频和声音，在短视频平台上创建大量假靳东账号，吸引粉丝关注。

利用粉丝的痴迷，各种卖惨，一旦有粉丝上钩，他们就会以各种理由索要钱款。

 

“假靳东”事件的曝光，让靳东本人也十分愤怒。

在今年的两会小组讨论上，他也一再呼吁国家出手整治AI乱象：

“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。”

 

无独有偶，今年8月，央视曝光了多个利用AI仿冒奥运冠军全红婵带货土鸡蛋的账号。

视频中，AI全红婵一会卖土鸡蛋，一会又推荐农家土蜂蜜。

 

一时间，不少网友信以为真，纷纷点赞下单支持，让诈骗团伙赚的盆满钵满。

 

但实际上，全红婵的家人早在四月就辟谣，全红婵并未给相关农产品代言或授权。

 

中招“被带货”的不只全红婵，就连国乒队也遭殃，AI仿冒的孙颖莎、王楚钦也层出不穷。

 

AI仿冒名人已不是新鲜事，但没想到这股风，竟然还能吹到央视主持人身上？

03

“家人们，这个深海多烯鱼油你们得试试，包治百病。”

在直播间里，一位长得和央视主持人李梓萌极为相似的人，正热情地推荐着产品。

 

她声称这款鱼油能改善头晕手麻、恢复记忆，还信誓旦旦地强调：

“有央视给你们把关，绝对有保障。”

 

很多观众因为信任这张播报新闻多年的面孔，毫不犹豫地就下单购买了。

可当产品陆续送到消费者手中后，大家才发现自己上当受骗了。

 

仔细查看产品执行标准后，才发现这所谓的“神药”，不过就是糖果类食品，根本不具备任何保健功能。

李梓萌被AI克隆的事件曝光后，北京海淀区市场监管局迅速介入调查。

结果发现，画面里的脸和声音都是AI合成的。

 

央视方面很快做出回应，称李梓萌那段时间正在筹备新节目，根本没时间进行直播带货，更不可能推销什么鱼油。

至此，真相大白，原来这一切都是不法分子利用AI克隆技术制造的骗局。

 

刘晓庆在看过“AI刘晓庆”后，也惊呼相似度极高。

她曾紧急辟谣：

“画面是我，声音很像我，但不是我！这是怎么做到的？”

 

明星们的“数字分身”在未经授权的情况下，活跃在各个直播平台，推销着从女装到奶粉的各种商品。

这些伪造的名人代言不仅损害了消费者权益，更严重侵犯了明星的肖像权、名誉权。

 

那么，AI仿冒名人现象为何如此泛滥？

究其根源，在于AI伪造的门槛太低，而利润却相当可观。

 

在这条产业链中，上游通过爬虫抓取、二手设备回收提取相册、短视频平台音频提取等获取受害者生活照、声纹切片与3D头模。

中游则实现人脸替换、驱动与重播、对抗检测清洗等。

下游直接通过AI换脸进行诈骗、诱导转账、直播带货或打赏等违法犯罪行为。

 

在各平台，提供相关AI伪造服务的商家比比皆是。

记者在某二手交易电商平台上发现，进行人脸识别、代做视频、人脸（信息）提取的业务售价仅30元！

 

虽然卖家强调用户需确保所提供素材不侵犯第三方版权或其他权益，但这样的“君子协定”到底具有多大的约束力，恐怕要打一个问号。

面对这种乱象，国家终于出手了！

 

04

李梓萌的案子成为了第一个AI虚假广告案，涉案人员很快被警方抓获。

 

除了抓人罚款外，相关部门还要求直播平台升级技术，自动识别AI合成内容。

同时要求主播必须实名登记，从源头上遏制AI虚假广告的传播。

 

而温峥嵘事件，央视直接在抖音平台开设直播澄清。

在各个明星的呼吁下，国家终于出手了。

近日，国务院推出了《深化“AI+”行动落实意见》的详细指导文件，强调了政府在推动人工智能技术发展方面的坚定承诺。

 

该倡议的核心是优化国家人工智能发展的基础设施，尤其是改善智能计算资源的国家布局。

在执法层面，北京市海淀区市场监管局运用《中华人民共和国广告法》对滥用AI技术冒用知名人物形象发布虚假广告问题首度“亮剑”。

 

平台方面也开始行动，抖音电商安全与信任中心在11月6日发文称，10月已启动“仿冒名人宣传”专项治理行动。

专项启动以来，已严厉处置违规账号1.1万个，商品6700余个，同时，平台也积极引导多位达人开通“阻止相同侵权内容传播”功能，保障权益。

 

同时，平台也积极引导多位达人开通“阻止相同侵权内容传播”功能，保障权益。

针对温峥嵘案例，抖音平台依据《创作者【仿冒名人宣传】细则》，已对相关账号进行中断直播、下架违规商品及视频、冻结成交金额等处罚。

 

结语

但AI治理是一场需要长久战。

从李梓萌到全红婵，从靳东到温峥嵘，名人们仍在AI仿冒的漩涡中挣扎。

技术本身没有善恶，但使用技术的人却有。

 

在这场AI的攻防战中，我们需要更好的技术、更严的法律、更平台的责任心，以及每个网民更清醒的认知。

AI的未来不应是骗局横行的荒野，而应是促进社会进步的沃土。