当清明遇上“AI复活”,眼见不为实的时代下该如何擦亮双眼?

广州创新 2025-04-07 16:20

踏入四月,清明假期将至

以往,我们大都选择折柳踏青、扫墓祭祖

用黄纸香烛诉说着对逝者的思念

但如今,科技的浪潮

正让有别于传统的缅怀方式不断涌现——

一种名为“AI复活”的服务

在清明前夕悄然兴起

引发了社会各界的广泛关注

这项服务声称

只需提供逝者的照片或录音

就可以通过AI技术

让亲人在屏幕上“活”过来

甚至开口说话

“AI复活”是怎么回事?

在电商平台搜索栏输入“AI复活”,瞬间跳出无数相关商品。价格从几十元到数千元不等。

(某电商平台上关于“AI换脸”的商品)

在短视频平台上有不少博主发布了AI复活人物的视频,也有不少人在经营AI复活业务,还有的标明培训收徒。在开展此类业务的账号上,有的博主声称可以“定制数字亲人视频,只需1张照片,用时1天内”,有的博主甚至还制作了教程视频,只需提供一张逝者的照片或一段录音,就能通过AI技术,让亲人“活”过来,甚至还能开口说话。

(网络平台上的“AI复活”教程)

对于很多人来说

“AI复活”是一种情感的寄托

是对逝去亲人的无尽思念

而要“复活”逝去的亲人

都需要提供逝者的

肖像、个人信息甚至部分隐私

在人工智能时代

保护逝者的人格权益面临新的挑战

2022年,国家网信办等三部门发布《互联网信息服务深度合成管理规定》,对深度伪造等新技术应用进行了规范。规定明确,深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。中国政法大学知识产权研究中心特约研究员赵占领表示:如果被编辑人是逝者,理应取得有义务保护逝者肖像权的亲属的同意。

如果能够及时获得死者近亲属的同意

这种技术的应用方法

也未尝不是一种缅怀亲人的方式

不过“AI复活”背后隐藏着一条完整的商业链条

数据采集、模型训练到服务提供

每一个环节都需要专业的技术和设备支持

此外,构建数字人

需要大量采集逝者外貌、声音

和经历等个人数据

这类敏感信息的存储、传输和使用

都存在泄露风险

作为一个新兴事物

“AI复活”的产品仍面临较大法律争议

它作为数据财产权益归属仍为法律盲区

但是!

不法分子借助智能AI换脸和拟声技术

实现远程视频诈骗

则毫无疑问是一种刑事犯罪行为!

AI换脸诈骗案例警示

1.只需一通视频电话,不法分子就骗走了430万元。2023年4月,福建省某科技公司法定代表人郭先生接到“好友”的微信视频通话,对方声称自己当下需要430万元保证金用以项目竞标,想借用郭先生公司的账户“走个账”。因为有先前的视频通话,加之对“好友”的信任,郭先生陆续给对方转账共计430万元。随后郭先生再次联系好友时才发现自己被骗。所幸在警方帮助下,成功止付拦截336.84万元。

2.香港警方曾披露一起涉案金额高达2亿港元的多人AI换脸诈骗案。某公司职员受邀参加公司“多人视频会议”时,先后将2亿港元分别转账到5个本地银行账户内。据警方调查,这场视频会议中除了受害者外,其余均为AI换脸后的诈骗人员。

AI防骗,这些小妙招请牢记

1.多留心多注意“瑕疵”

AI生成的内容并非无懈可击,只要细心观察,就能发现其中的瑕疵。例如,AI语音往往带有机械尾音,在重音停连方面语气不够自然;AI换脸视频中的眨眼频率固定,嘴角肌肉运动可能不自然等。

2.多种方式验证“真伪”

让对方用手指或其他遮挡物在脸前晃动,如画面出现类似果冻效应或者扭曲,那对方很可能正在使用AI换脸技术。

询问对方一些私密的问题,如生日、电话、喜好等,来确认对方的身份。

3.涉及金钱交易可要求线下见面

凡是涉及转账、借钱等经济往来的,为安全起见,可要求对方线下见面。

4.保护个人隐私

AI诈骗是隐私信息泄露与诈骗陷阱的结合。要加强对个人隐私的保护,不轻易提供人脸、指纹等个人生物信息;不过度公开或分享动图、视频。

AI时代,眼见不一定为实

随着人工智能技术的迭代升级

这类违法行为还可能演变出更多形态

需要我们不断修炼“金睛火眼”去辨别

不过大家也不需要过度恐慌

国内的科研团队、科技企业

已经在研发

专门针对AI虚假信息的测技术

争取用“魔法”打败“魔法”~

订阅后可查看全文(剩余80%)

手机扫码打开本网页
扫码下载南方+客户端