被叫停的AI“复活”：李玟亲属公开维权背后的科技伦理之争

“你们好吗，我是CoCo李玟。在我离开这个世界的那一刻起，我一直能感受到你们无尽的爱与支持……”

去世9个月的李玟被网友用AI“复活”了。她坐在镜头前，对粉丝诉说着暖心话语。然而，李玟母亲的一纸声明，却将人拉回现实，让人看到AI“复活”的另一面：以温情之名非法牟利，借机售卖AI服务、恶意转评引流推广个人业务。3月30日，李玟母亲委托的广东梦海律师事务所告诉南都、N视频记者，“我们在固定证据，走法律途径。”

清明将至，AI“复活”逝者成了热门生意。南都记者调查发现，在一些电商平台上，有不少做AI“复活”生意的商家，商品标价从几元、几十元到上百元乃至数千元。当AI“复活”成为一门生意，带来哪些伦理争议和法律挑战？监管面临哪些难题？

“AI复活李玟”视频引发争议。

李玟被“复活”

“你们好吗，我是CoCo李玟，我知道你们可能会感到惊讶，甚至有些不真实。在我离开这个世界的那一刻起，我一直能感受到你们无尽的爱与支持……”

视频中的“李玟”坐在镜头前，对粉丝诉说着暖心话语。这段“逼真”的视频实际由AI生成，在社交平台上被广泛传播。

3月28日，广东梦海律师事务所受李玟母亲委托发布了一则律师声明。声明称，根据已掌握的证据资料，近期部分网络用户未经李玟近亲属同意，利用李玟肖像制作、发布“AI复活李玟”系列短视频，以温情之名非法牟利，借机售卖AI服务、恶意转评引流推广个人业务。

律师声明。

声明指出，此类视频的广泛传播已经对委托人及其家人的工作和生活造成了严重干扰，同时也给本就深陷痛苦的委托人及家人带来了巨大的心理冲击和二次伤害。

声明严正警告涉嫌侵权责任人，于声明发布之日起7日内下架、删除含有上述侵权内容的相关图片、视频及文章，立即停止实施相应侵权行为。

近日，南都记者在社交平台搜索AI“复活”李玟的视频，发现大部分视频已被下架，但仍有少数视频依然存在。

这类视频有的制作很逼真，让评论区的网友直叹“难辨真假”。有的制作粗糙，“李玟”对着镜头说一些心灵鸡汤，表情和动作僵硬，语速也快慢不一。

3月30日，广东梦海律师事务所工作人员告诉南都记者，“我们在固定证据，走法律途径。”

AI“复活”成生意

不仅仅是李玟。

被AI“复活”的已故明星还有高以翔和乔任梁。而他们的家人无一例外，均表示对此不能接受。

“他们未征求我们同意，这是在揭伤疤。”乔任梁父亲在接受媒体采访时说道。

高以翔家人也表示，严厉谴责并坚决抵制该行为，若不立即停止侵权行为，会采取法律行动。

被AI“复活”的乔任梁。

与网络博主用AI“复活”逝去的明星不同，也有不少人用AI“复活”逝去的亲人。台湾知名音乐人包小柏此前在个人社交平台分享AI生成的逝去女儿的视频，就曾引发广泛关注。

包小柏利用AI“复活”女儿。

越来越多的案例背后，是AI“复活”正在成为一门生意。

南都记者在电商平台上搜索，发现了许多做AI“复活”生意的商家。这类生意以创意AI“复活”照为主，标价在十元至上百元间。

南都记者咨询了其中一名经营创意AI“复活”照片的商家，从标价10元的链接点击联系客服后，对方表示，具体价格要根据照片和要求来定，他们能实现的效果包括“让照片动起来”和“让照片开口说话”。

电商平台上的AI“复活”广告。

该名电商商家表示，如果是让照片“动起来”，只需要提供正面照片，成片6-7秒。如果想让照片“说话”，必须提供正面照片与定制文本，价格根据视频时长而定。

照片说话的声音有两种形式可选，一是用商家现成的普通话声音，音色不可选；二是还原原声，需要提供足够的音频采集，单位时长的价格大概是第一种形式的3倍。

另有电商商家出售一款AI数字人软件，安装后可以导入正面照片让其“开口说话”。

南都记者咨询该商家，对方表示，该软件只能实现导入照片和录好的音频直接合成，若需要音色克隆，可以购买店里另外一款AI声音克隆软件。两款软件一同购买，总售价不超过40元，可以永久无限使用。

此外，AI换脸软件在电商平台上也很常见。

南都记者在电商平台上检索发现，这些软件多以网盘的形式发货，标价在几元至十几元间，但AI换脸软件的商品页面几乎没有以“复活”亲人为营销。

一款“一键换脸”软件的评论区中，共有6位买家晒出效果图，均将图片中的人脸换为明星脸。

监管面临难题

AI换脸技术自诞生起就备受争议，用AI换脸侵害他人权益的案件并不少见。

2023年8月10日，公安部通报全国公安机关打击整治侵犯公民个人信息违法犯罪行为举措成效。数据显示，自2020年“净网”专项行动以来，破获涉“AI换脸”案件79起，抓获犯罪嫌疑人515名。

AI换脸技术备受争议。IC供图

南都记者了解到，对于生成式AI，近年来监管部门已经出台相关规定。2022年12月11日，《互联网信息服务深度合成管理规定》发布，强调深度合成服务提供者需要对深度合成内容进行显著标识。

2023年7月10日，《生成式人工智能服务管理暂行办法》（下称《暂行办法》）出台。

其中明确提出，提供和使用生成式人工智能服务时，应当尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。

《暂行办法》中还强调，生成式人工智能服务提供者应当使用具有合法来源的数据和基础模型，不得侵害他人依法享有的知识产权，涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形。

由于非法提供者或使用者有匿名性及AI换脸产品本身的可复制性，AI生成产业的监管依然面临难题。

一名从业者向南都记者坦言，目前AI“复活”逝者产业，并无行业标准，他们对违法使用的行为无法彻底甄别。“我们只能通过询问动机、多方求证来判断是否相信他们的故事。”

南都记者咨询多家经营创意AI“复活”照片的商家发现，其中一些店铺会在提供服务前强调“不做人脸识别，不做违法行为，只能用于怀念”。

有些店铺则在声明中强调，“不得用于商业或非法用途，否则一切后果请用户自负。”也有出售AI视频换脸软件的商家全程没有提到对用途的限制，其商铺页面显示该软件已有100多人付款。

伦理与法律困境

AI“复活”李玟被叫停背后，一个无法回避的问题是：如何在发展AI技术的同时，为其厘清伦理边界、设定好底线，确保行业在健康的轨道上前行？

广东广信君达律师事务所管委会主任、法学博士闪涛长期专注于研究人工智能领域的法律问题。

他告诉南都记者，从侵权角度而言，根据我国《民法典》的相关规定，AI“复活”李玟既涉嫌侵害与死者有关的肖像权、名誉权等人格权，也涉嫌侵害与死者个人信息有关的人格权益。

AI“复活”涉及人脸信息应用，其免责事由在法律法规当中有明确规定。

最高人民法院于发布的《关于审理使用人脸识别技术处理个人信息相关民事案件适用法律若干问题的规定》，明确了五类行为属于免责事由。

分别是为应对突发公共卫生事件，或者紧急情况下为保护自然人的生命健康和财产安全所必需而处理人脸信息的；为维护公共安全，依据国家有关规定在公共场所使用人脸识别技术的；为公共利益实施新闻报道、舆论监督等行为在合理的范围内处理人脸信息的；在自然人或者其监护人同意的范围内合理处理人脸信息的；符合法律、行政法规规定的其他情形。

“AI‘复活’如果在合法合规的方式下是能够使用的。”闪涛举例说，比如在某部影片的拍摄过程中，男主角意外身亡。为保证拍摄的顺利进行，经过一系列合法合规的步骤后，影片采用AI“复活”的方式使影片得以顺利拍摄完成并上映。

“但AI‘复活’如果被滥用的话，不仅会给当事人及其亲友带来侵害，也可能危害社会公共秩序，违背公共道德与公序良俗，甚至被不法分子利用从事违法犯罪活动。”

“AI‘复活’给法律带来了新的挑战。”闪涛认为，AI“复活”仍是新生事物，我国目前已经建立相应的法律法规的框架，但还存在进一步细化的空间，同时基于AI“复活”的利弊，“涉及到普通大众的心理感受和社会伦理道德方面的问题，法律难以做一刀切的规定”。

闪涛说，从个人最朴素的观点以及现有的法律原理出发，AI“复活”首先应当遵从本人在生前的明确意愿，其次是要遵从在合法使用的情况下，维护包括死者在内的个人合法权益，同时不能违背社会伦理道德。

出品：南都即时

采写：南都记者 杨婷 

网址：被叫停的AI“复活”：李玟亲属公开维权背后的科技伦理之争 http://c.mxgxt.com/news/view/284478

相关内容

被叫停的AI“复活”：李玟亲属公开维权背后的科技伦理之争
多位明星被AI复活 未经同意涉嫌侵权
已逝明星被“AI复活”引热议，家属可提起诉讼维权
AI“复活”未获逝者家属同意 目的是为推销相关课程  “复活”已逝明星在网上成了一门生意
网友用AI“复活”已故明星，律师：未经家属同意属侵权行为
商家兜售AI复活明星业务？未经同意属侵权！
AI“复活”已逝明星成生意 以名人效应打广告卖课
AI“复活”已逝明星成生意，以名人效应打广告卖课
媒体调查：AI“复活”已逝明星成生意，以名人效应打广告卖课
多位已故明星家属抵制！“AI复活”为何能成为一门生意？

随便看看