AI技术能“复活”已故亲人？业内提醒警惕背后存在的风险

显示全部楼层 · 2024-4-26 00:51:42

极目新闻记者康旭阳

如果能有一次和已故亲人再次对话的机会，你会有哪些想说的话？

近日，用AI技术“复活”已故亲人火了。极目新闻记者注意到，电商平台有不少店铺提供该项服务，价格在10元至数百元不等，只需提供一张照片和一段音频，就能让照片上已故的亲人开口说话。

不过业内人士提醒，AI“复活”亲人服务为人们提供了情感慰藉的新途径，但也要警惕背后可能存在的隐私泄露、侵权、诈骗等风险。

用AI技术“复活”已故亲人

近日，知名音乐人包小柏成功运用AI技术“复活”了已离世两年的女儿。“数字世界”里的女儿，不仅会唱歌跳舞，还能跟家人对话。

据悉，女儿因病去世后，包小柏开始钻研AI技术并攻读相关专业博士，用女儿生前的碳基资料进行重建，重现了女儿生前的动态。他感慨：“AI就是寄托思念的工具，也是一种对思念的表达方式。”

普通人有机会让已故的亲人“复活”吗？极目新闻记者在电商平台上看到，有不少店铺提供用AI技术“复活”已故亲人的服务，价格在10元至数百元不等，有的还提供定制服务。

电商平台上的此项服务

一家AI工作室的客服人员称，只需提供已故亲人的一张正面半身照、一段1分钟左右的音频，以及你想让亲人复述的文字内容，就能让照片上已故的亲人开口说话，并且面部也有表情动作，“最后的成品是一段视频，制作一般需要两天的时间，只能说定制时指定的文字内容，不支持和定制者聊天。”

还原度能达到多少？“还原难度主要在说话音色和习惯上，百分百还原肯定是不可能的，一般能达到70%。”上述客服人员介绍，方言的还原度要比普通话低一些，因为方言的发音习惯不一样，只能尽可能在音色上提高还原度，“可以先让身边的人录一段同样内容的方言音频，再让AI进行模仿。”

另一家店铺的客服则称，无法克隆和模拟声音，需要顾客自行提供一段配音，或根据顾客文字内容生成普通话配音，但普通话配音为AI模板，不能还原照片人物的音色、说话习惯。

背后存在侵权等法律风险

这一AI技术的新型应用，帮助不少网友实现了与已故亲人“再见一面”的心愿。

极目新闻记者注意到，有店铺月销量已达到20多单，不少网友购买此项服务后评论道：“看到了逝去多年的亲人，真是泪流满面。”“方言有点不像，还原度70%左右，但已经很好了。”“对家人是很大的慰藉，希望未来能实现和亲人实时对话。”……

“这种AI技术应用其实已经十分普遍，不过运用到让已故亲人‘开口说话’上确实很新奇。”天使投资人、资深人工智能专家郭涛向极目新闻记者解释道，AI技术已经具备了从图像和声音中提取特征、进行深度分析并生成新内容的能力，从技术角度看，这项服务实际就是利用深度学习、图像处理等技术，让静态的照片动起来，甚至能让照片里的人物“开口说话”。

郭涛认为，这种技术在一定程度上满足了人们对亲人的思念，会有一定的心理慰藉作用。但从伦理和社会角度来看，也引发了许多争议。首先，将已故的亲人“复活”，可能会对活着的人产生误导，让人们沉浸在虚假的亲情中，无法面对现实。其次，将这种技术变成一门生意，可能会引发一些道德和伦理问题，也可能会被滥用于制造虚假信息误导公众。

极目新闻记者注意到，在电商平台上，不少提供该项服务的店铺都在商品页面强调：只帮助缅怀亲人，不做人脸识别，也不做违法的内容。“我们不提供声音还原服务，就是担心利用AI技术克隆出完全一样的声音，生成出顾客需要的内容后，会被用于不法途径，传播虚假信息等。”一家店铺客服表示。

河南泽瑾律师事务所主任付建也认为，这种服务背后存在不少安全隐患。一方面，AI“复活”的亲人并非真实的生命存在，它所能提供的只是一种模拟的、虚拟的交互体验，这种体验能否真正满足人们对于亲情的需求，是否会导致某种程度的心理依赖和误导，都是值得深入探讨的问题。另一方面，将这样的技术商业化，也涉及了隐私保护、数据安全以及服务质量的监管问题。如果未经授权就擅自使用AI技术“复活”他人，可能构成侵权行为。同时，如果这些服务提供者没有采取足够的安全措施，用户的照片和视频信息就有可能被泄露，被用于不法目的。

“除了泄露隐私和侵权风险外，AI‘复活’亲人服务还可能涉及诈骗问题。”付建还提醒，一些不法分子可能会利用这一技术，制作虚假视频进行诈骗，损害消费者权益。

AI应用需进一步规范

“如何确保用户提供的个人信息不被滥用，如何保证服务的质量与效果，都需要有相应的法规和标准来加以规范。”付建认为。

北京社科院副研究员王鹏也表示，如今AI技术应用领域越来越广，需要多方进行规范，才能更好地引导行业发展。首先，政府应制定和完善相关法律法规，明确AI技术的使用范围和限制，以及违法行为的法律责任。其次，应建立独立的监管机构来监督AI技术的使用和开发过程，确保它们符合道德和法律要求。此外，公众教育和意识提升也非常重要，人们需要了解AI技术的潜力和风险，以便做出明智的决策。

付建也提醒，AI“复活”亲人服务虽然在一定程度上能够满足部分群体的心理需求，但它并不能替代真实的人际关系和情感交流。人类情感的复杂性和深度是任何技术都无法完全替代的。因此，我们应该在肯定技术进步的同时，也要保持清醒的头脑，理性看待这一技术现象。

“利用AI技术可以解决人们的思念问题，这其实也是科技发展的意义所在，但是AI技术应用要在法律允许的范围内探索，才能让人们的生活变得更加美好。”付建表示。

（来源：极目新闻）

更多精彩资讯请在应用市场下载“极目新闻”客户端，未经授权请勿转载，欢迎提供新闻线索，一经采纳即付报酬。24小时报料热线027-86777777。