观察
前不久,一直无法走出女儿去世悲痛的包小柏,用AI复活了女儿,并让“女儿”为妻子唱了生日歌,这给了包小柏莫大的情感抚慰,也引发讨论。与此同时,一些网络博主使用AI技术“复活”逝世明星的做法备受争议。针对肖像被侵权使用,过世艺人亲属表示无法接受。凡此种种,也使我们必须认真审视这一议题。
明星被AI复活,
家人称“揭伤疤”
李玟坐在镜头前和观众打招呼:“我永远都会陪伴着你们”;乔任梁说:“其实我并没有真正离开”;高以翔告诉粉丝:“我的心永远和你们在一起”……一大批网络博主使用AI技术“复活”逝世明星的视频相继涌现,离我们远去的公众人物,如鲁迅、金庸、张国荣、黄家驹、姚贝娜等等均被数字还原。AI“复活”明星视频在网上广泛传播,栩栩如生的“明星们”变成数字永生人,在屏幕上向粉丝亲切打招呼,这一幕激起粉丝的热情回应。
对此,明星亲属表示不接受。高以翔家人和乔任梁父亲相继喊话相关博主,要求下架有关视频。3月16日,乔任梁父亲接受采访表示:“他们未征求我们同意,是我侄女刷到视频发给我的,这是在揭伤疤。”3月17日,江歌妈妈发文:“不接受用AI复活亲人!如果能‘复活’,也仅限于我亲自来做这件事!你们不懂我们,又凭什么为我们(我与女儿)做决定!”
AI复活明星的视频出现之初,就出现两种声音。有网友表示,听到自己喜欢的明星说话的那一刻,眼泪都出来了,此刻很希望是他真实的还存在;还有人希望博主能复活更多想念的人,寄托美好心愿。但也有网友表示不赞同这种做法,用这种方式出现并不是明星本人的意愿。甚至是对家人的二次伤害。而发布者自称,这是利用高科技给活着的人提供情绪价值。
公共领域“复活”明星,
存在互动隐患
AI复活视频的制作者究竟是否有考虑到明星家人感受?擅用已逝明星信息进行AI视频制作,究竟是为了一种情感抚慰,还是对逝者亲人“揭伤疤”?有网友表示:“不要消费逝者,这对曾经喜欢过他们的人是二次伤害,更别提他们的亲人,AI是可以合理运用的,但请不要为了吃人血馒头赚钱,把AI变成一把血淋淋的刀,逝者已矣,只希望能永远安息。”
采访中,包小柏也提及,渴望自己对AI技术有所实现,但大众对AI技术的不了解,就会引发“恐怖”理论,甚至颠覆伦理之说。AI不可能“死而复生”,所以对AI“复活”两个字,他希望更正成“重现”、“还原”。AI本身没错,怕人想错用错,用于吓人骗人。
南京信息工程大学人工智能学院院长 潘志庚告诉记者,AI技术用于“复活”逝者,技术上没有问题,但是伦理问题要慎重,人们的情感接受度还需要一个过程。
“复活”大众人物,更要征得家属同意,亲人有时候在情感上很难接受这种“复活”,勾起了他们的伤痛记忆。“我个人来说,并不支持这种复活。在中国传统文化中,逝者已矣,我们可以通过祭奠去怀念逝者,但情感上并不能接受。”对于亲人来说,还有一个如何与“数字亲人”相处的问题,有人睹“人”思情,会走不出来。
而且在公共领域“复活”明星,或存在互动隐患。其具备与大众互动的功能,互动的内容更值得考究。比如大众会问“数字人”一些感兴趣的问题,其中有些涉及隐私,或者挑战公序良俗的问题如何去规避。所以“复活”公共人物,有可能会给亲人带来不必要的麻烦,需要通过相关立法进行保护。
一名数字复活领域的从业者告诉记者,为了实现AI数字人与用户的深度对话,制作团队一般会将自身产品接入大型模型系统,由大型模型系统作为数据库提供语料支持,在这个过程中去除一些敏感词汇,可以防止不法用户通过视频操控数字人,诱导数字人向亲友提问类似银行卡密码等隐私信息。只要存在这种可能性,数字人就会重新启动系统,从而解决潜在的欺诈问题。
抓住流量密码,
“AI复活”成一门生意
争论之下,热度却是肉眼可见,复活似乎成了新的流量密码。在视频评论区,亦有人打着温情的名义,趁机做起AI推广、收费服务……也令人担忧相关逝者成了消费对象。
近年来,人工智能技术发展迅速,生成式AI兴起以来,随着技术门槛和成本不断降低,“AI复活人物”技术得到应用,且已成为产业链。不时有网络曝光,有人因怀念逝者,采用“AI复活亲人”,让爷爷奶奶、父母、子女等在网上重现。在南京就有AI技术团队,在半年多时间里帮助600多个家庭实现“在线团圆”,平均一单的费用从几千元到1万元不等。
在社交平台,一些“AI复活师”账号广泛活跃。这些账号通过发布已逝名人的AI视频吸引观众,并在简介中声称可以通过AI技术定制数字人、克隆声音、修复照片,还能“复活”已逝亲人,定制他们的音频视频。目前,部分“AI复活师”的视频已被平台标注“内容疑似AI生成,请谨慎甄别”。
除了“AI复活”账号,还有“AI复活套餐”在购物平台也可随意检索到,且价格更加低廉。记者在某宝联系“温暖家小小店”,对方向记者提供了收费标准。提供一张正脸照片后,花费20元可以人物动起来;支付50元可以使用AI让其说话;自己提供音频,使用声音克隆让数字人开口说话,需要花费90元。尽管视频效果看来有些僵硬,但以这个实惠价格不少人都给予好评。“家人看了都挺感动的,价格也很实惠”。需求量并不大,对数人出于“留作纪念,心灵慰藉”的考虑。
据商家介绍,既可以视频为媒介,通过逝者的照片和声音,创作生日祝福或安慰的视频;也可以开发一款可对话的聊天机器人,这款机器人不仅具备逝者的声音和外貌特征,还能模拟客户亲人的性格和记忆,与用户进行对话,为客户提供个性化的体验。价格在数十元到数百元不等。
“抓住风口,学会制作,能成为一份不错的副业”。网上还有一些“复活”教程,首先进行声音处理。包括收集原始声音,用Audition进行分析、降噪,将声音切成短小片段。第二步,打开飞桨,搜索“语音合成”,按文档步骤操作克隆声音,克隆声音结束后,输入文字,合成音频。第三步,D-ID生成视频。打开D-ID软件,将合成的音频上传,上传照片,即可合成视频。
擅自“AI复活”需要担责
随着AI技术的发展,通过AI合成照片和音频,让已逝亲人重新“开口说话”的愿望已可初步实现。但与此同时,这样的技术背后的伦理问题和法律风险也需要引起重视和关注。
未经逝者亲属同意,擅自利用AI技术数字“复活”已逝去的明星,需要承担哪些法律责任?北京市高朋(南京)律师事务所魏增律师告诉扬子晚报/紫牛新闻记者,自然人享有肖像权。除法律另有规定外,任何组织和个人不得丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像。未经肖像权人同意,肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。
其次,死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任;死者没有配偶、子女且父母已经死亡的,其他近亲属有权依法请求行为人承担民事责任。
除非AI李玟形象的制作者已经在李玟生前获得李玟本人授权,或者在李玟逝世后获得李玟全体近亲属的授权,擅自通过AI技术制作李玟形象并公开的行为将构成对李玟近亲属的侵权。此时侵犯的不是李玟本人的肖像权,而是李玟近亲属的人格利益。
多说一句
避免滥用带来“二次伤害”
需要警惕的是,倒洗澡水不要连孩子一起倒掉。“AI复活亲人”与“AI复活明星”具有本质区别,前者是逝者亲属主动所为,而后者则是网友、机构未征求明星亲属同意,随心所欲地“复活”,违反了民法典的相关规定。
显而易见,未经家属许可,就擅自利用AI技术“复活”明星,不仅涉嫌侵犯明星的肖像权、名誉权,且有滥用AI技术之嫌,挑战法律和伦理底线,容易诱发科技道德风险,值得商榷。
这需要我们去厘清边界,并加以规范,避免滥用侵害他人合法权益,给失去亲人者带来“二次伤害”。
“AI复活逝者”正在发展的市场前景,也需要制定相应标准和规范,促进其有序发展。
AI技术为人类所用,本身是好事,关键看你如何正确地去使用,让科技成为温暖的力量,否则周处也有可能沦为“第三害”。
实习生 罗嘉一
扬子晚报/紫牛新闻记者 张楠
校对 徐珩
网址:观察 http://c.mxgxt.com/news/view/106728
相关内容
职场观察类节目中明星观察团嘉宾设置的合理性分析从“明星观察”到“全民观察”,《一起探恋爱》摆脱明星依赖
用放大镜观察,发现许多细节
想要安身立命,需得察言观色
因为一句话,观察室的嘉宾们瞬间失去了所有的力量与招数!观察室嘉宾们的反应
仔细观察,宝宝笑起来时嘴角上扬了!
注意观察敬贵妃的表情,那真不是演的
从细节观察,阿念的地位远不及馨悦
#知政观察团#【明星...
从细微处观察,阿念的地位远不及馨悦