连线“马云”、“靳东”告白？骗子长了一张“明星脸”，有人险些损失200万元｜一周警报

发布时间：2024-12-23 02:29

最近，张文宏医生又上热搜了
但不是因为问诊治疗
而是有人用他的脸进行卖货
其实，不只是张文宏医生
许多名人、明星都成为AI换脸的热门对象
包括，雷军、马斯克、巴菲特
前有“靳东”向你告白示爱
后有“马云”开班教你投资
目的只有一个——骗钱
之前国外有老人被“假马斯克”
骗光了毕生积蓄
警报君梳理了几宗典型案例
强烈建议转给长辈看看
避免因为不了解误入AI换脸陷阱

全国——

上海：
“张文宏”带货卖蛋白棒？
本人发声：假的！已经投诉

最近，有网友反映：家中老人在网络卖货视频中，看到了张文宏医生卖一种蛋白棒，老人信以为真，不仅下单还转发多个群聊。

发布AI视频的账号名叫“般画234”，视频中，只见张文宏医生正襟危坐，反复介绍一种产品，声音听起来也很像本人。经核实，该视频是利用AI技术合成的。目前，已在微信视频号平台搜索不到该账号，此前商品橱窗页面显示某蛋白棒已出售1200多件。

“事情已经有几个星期了，有很多不明真相的老百姓，特别是有些对AI不是很熟悉的、年纪比较大的市民，他们就会很容易相信。”华山感染科主任、国家传染病医学中心主任张文宏表示，这样的卖货账号不止一个，且一直在变，发现后曾立即投诉AI合成的视频，但账号一直在换。“这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。事实上，从平台投诉结果来看，我觉得最终也难以解决问题。”

除了向平台方投诉，张文宏称也曾考虑过报警，但对方看不见摸不到就像幽灵一般难以描述，这也让他犯了难。“报警总要有个对象对吧，现在报警报谁呢？”张文宏直言，这种行为侵犯了消费者的利益，相应的部门应该来进行处理。

之后，上海市消保委副秘书长唐健盛表示，这种做法已经构成了对消费者的欺诈，消费者如果上当，可以按照消费者权益保护法的规定，要求商家做出退一赔三，并且金额不足500元的要按照500元来赔。“此外，我们觉得相关的监管部门应该对这种恶劣的行为要采用非常严厉的方法进行处罚，因为这不仅仅是涉及消费者权益，它其实还涉及整个社会的良知与道德。”

警报君说：

人脸是假的，声音也是假的，只有骗你下单的心是真的！

北京：
骗子“换脸”冒充马云，诱惑老人投资

“同志，能不能帮我下载一个QQ软件？我得用QQ参加投资培训。”11月6日上午，住在北京市丰台区方庄街道的一位老奶奶来到居委会求助。社区服务站副站长赵静得知老人要参加投资培训，立刻警觉起来，详细询问老人事情经过。老奶奶说，“是马云的徒弟让我下载QQ，我还跟马云连线通过话呢”。说到这，赵静确认这就是一起网络诈骗事件，第一时间就联系了社区民警王兵。

5分钟后，社区民警王兵赶到现场，很快还原了事实真相：骗子前期通过给老人充话费的方式博取好感，又在社交平台用AI换脸成马云，视频连线获取信任。骗子自称是“马云的徒弟”，正在做扶贫项目，有可观的分红。此次让老人下载QQ软件是为了手把手给老人培训，最终目的是骗取老人钱财。

社区民警和社区服务站工作人员耐心规劝，现场让老人视频连线对方，当面与诈骗分子对话。诈骗分子磕磕绊绊地说自己是卖保健品的，更不认识马云，没聊几句就慌张下线。王兵将视频对话全程录像，采集了诈骗分子头像信息，以备后续侦破案件，并且帮助老奶奶拉黑了诈骗分子电话和账号。

王兵向老人强调，这是诈骗分子的惯用伎俩，强调务必不要给陌生人转账，更不要听信陌生人的话下载任何软件小程序等。老奶奶幡然醒悟：“多亏了你们，不然我的养老钱保不住了。”

警报君说：

这个骗子长了一张马云的脸，千万要擦亮双眼！

江西：
老人欲贷款200万
只为帮男友“靳东”拍戏

“您好，是金园派出所吗，我们这里有一名老人办理银行卡，但是手续不全，又不肯离开，希望民警过来劝一下”。11月12日上午11时许，江西省宜春市经开公安分局金园派出所接辖区银行报警求助。接警后，民警迅速赶往现场，了解后得知：老人到银行办理银行卡贷款业务，由于材料不全，银行无法为其办理贷款业务，老人却坚持要办理贷款，表示不给办理贷款就不走。民警感到疑惑，耐心询问老人为何要办理贷款。老人表示其要到银行贷款200万元给自己的男朋友“靳东”拍戏。

“靳东”不是大明星吗？难道老人认识他？“我是在短视频平台上认识 ‘靳东’，‘靳东’向我表白了，把我们的合照发布了短视频，现在他拍戏需要200万元，我要去帮助他。”老人略显激动地说道。民警随即拿起老人的手机查看，发现老人口中的大明星“靳东”是骗子冒充的，其所发布的视频也是由AI合成。但老人不了解网络技术，对骗子所说所做深信不疑。

之后，民警耐心劝导老人，无奈老人仍相信假“靳东”。于是，民警一边继续劝解，一边通知老人的孙子前来共同劝解。最终，民警向老人展示网络上一些冒充“靳东”诈骗的新闻、现场利用AI合成照片，老人才幡然醒悟。老人表示不会再相信网络上的“靳东”，对民警连连道谢，并放弃了开卡贷款的念头。

警方提醒，类似“杀猪盘”套路事件时有发生，骗子大多都是利用“感情牌”骗取受害者的信任与喜爱，随后用各种借口向受害者实施诈骗。无论是“网恋”还是“追星”都要擦亮眼睛，遇到索要银行账户、借钱转账等套路应该谨慎再谨慎。

警报君说：

追星须谨慎，花钱要三思！

广东——

广州：
知名博主汉服装扮视频被制成付费“AI换脸”模板，被罚赔偿5万元

近日，广州互联网法院审结了一起因“AI换脸”视频合成模板引发的纠纷案件。一位知名短视频博主发现，自己的汉服装扮视频被一家科技公司制成了付费“AI换脸”模板。该博主以侵犯肖像权为由，状告科技公司要求赔礼道歉，并赔偿5万元。

广州互联网法院法官曹钰介绍，AI换脸也称为深度伪造技术，其实质是一种基于人工智能的人体图像合成技术。AI换脸技术将个体的面部形象、身体形象甚至声音语调等进行分解，又与他人的形象特征进行融合、拼凑，破坏了人的特定空间性、肖像与身份主体的同一性。随着人工智能深度合成技术的快速发展，AI换脸等应用软件广泛兴起，受到不少年轻人的追捧，同时对自然人肖像权的侵害风险也日渐凸显。

曹钰表示，结合肖像权的扩张保护背景来看，肖像的具体认定标准应当以外部形象为判定基础，以可识别性为必备要素。他解释，以视频博主张某诉某科技公司一案为例，对于身体形象而言，其所对应的面部形象虽然发生改变，但若从未被修改的原视频的场景细节、装饰装束及肢体动作等仍能识别出身体形象的主体，则该身体形象属于可被识别为特定主体的肖像，应被纳入肖像权保护的范围。在“AI换脸”等人工智能深度合成技术应用场景下，原视频中的服饰装束、道具等亦可成为肖像的辅助认定要素之一。

不过，他表示，肖像必须具有可识别性才能成为肖像权保护的对象，但并非所有的外部形象都具备可识别性。由于面部特征具备极强的可识别性，故在传统观念中，面部形象属于肖像范围并无争议。但在去除面部特征的情况下，一些不具备明显特征的身体形态、肢体动作可识别性较弱，不足以使相关公众联想到特定自然人，故外部形象能否纳入肖像权保护范畴存在争议。但不同人物形象，可识别性的判定应有不同标准，受到相关公众的关注度、外在形象的知名度等因素影响。例如，对于媒体曝光机会较多的公众人物而言，公众的关注程度更高，其人物形象的知名度更大，则其外在形象为公众所识别的可能性更高。

曹钰说，本案中，鉴于张某的粉丝数量较多，作品亦获得大量点赞，且其本身即是以汉服装扮为主要特色的视频博主，故其除面部以外的肖像较普通人具有更高可识别性。判定过程中，需将原视频与“AI换脸”后的视频进行对比，如果公众结合未被修改的场景细节、装饰装束、肢体动作及特殊印记等，能够将该身体形象与特定主体建立起对应关系，则该身体形象可作为肖像权的客体，属于肖像权的保护范畴。因此，法院最终对相关形象足以被识别为张某的肖像予以认定。

警报君说：

AI一键换脸很轻松，结果可不轻松。

“AI换脸”以假乱真，如何辨别防范？