下载客户端
近年来，AI技术发展迅速，在提高生产力和创新力的同时，也为不少人带来新的烦恼。
3月5日，中国香港知名艺人古天乐、林峯的经纪公司先后发布声明，称最近在社交媒体上发现有线上游戏平台利用AI技术，将古天乐、林峯的肖像、声音及过往视频片段，合成制作为带有赌博性质的代言宣传片。
这些用AI技术合成的“宣传片”虽然尽力在脸部表情和声线、口音上模仿艺人本人，但整体画面制作较为粗糙，艺人讲台词的口形僵硬不自然，AI合成痕迹十分明显。
声明指出，这些宣传片均为合成影片，并否认古天乐、林峯与有关游戏平台存在合作，或代言、推广业务，提醒各方人士不要轻信，以免上当受骗。对于盗用两人名义或肖像作虚假宣传或诈骗的行为，公司必然追究。
无独有偶，3月3日，有微博网友发问向著名演员刘晓庆求证：看到一个微信视频号发了很多你的视频，好像是AI生产的，是假冒的吧？很多话不是你说的。
刘晓庆转发该微博并辟谣道：“天哪，我点进去看了一下，画面是我，声音很像我，但不是我！这是怎么做到的？大家以后不会搞不清楚哪个才是真的我了吧？我在各个平台都叫刘晓庆！”
这个假冒刘晓庆的微信视频号“晓庆人生” ，共有9条原创内容，其中点赞最高的一条达到7.8万个赞。目前该视频号已无法搜到。
今年全国两会期间，AI相关话题也引起代表委员热议。全国政协委员靳东表示，今年自己提出了一个关于AI技术和网络平台的立法问题的建议：“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。希望能建立更好的规则。”
2024年11月，江西一位老人来到银行办理银行卡，但手续不全又不肯离开，警方到现场后，老人表示要贷款200万元给自己的男朋友“靳东”拍戏。
民警通过查看老人的手机，发现老人所谓的大明星男友“靳东”是骗子冒充的，其所发布的视频也是由电脑AI合成，但老人对网络知之甚少，对骗子的所说所为深信不疑。
最终，民警通过向老人展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式劝解，老人才幡然醒悟，表示不会再相信网络上的“靳东”，并放弃了开卡贷款的念头。这一事件当时在网络上引发热议，网友们纷纷分享自己看到过的“AI名人”假视频，甚至还有人差点被AI技术合成的家人朋友的视频诈骗。
“AI假人”在社交网络上频现，也引起了大家的高度警惕。全国人大代表陈达表示，应加强对AI技术的立法监管，防止它被用于违法犯罪活动，特别是针对老年人和未成年人的网络诈骗。
陈达指出，前段时间社会上闹得沸沸扬扬的“张文宏医生被AI换脸直播带货”事件，就是AI技术被不法分子滥用的一个典型例证。他们利用AI换脸技术，冒充知名人士开展直播带货，诱骗老年人购买一些并不需要的商品，严重侵害了老年人的合法权益。
陈达建议，在立法层面应加强对AI技术的监管。立法监管不仅是对AI技术的约束，更是对它健康发展的一种保障。通过立法明确AI技术的使用范围和条件，可以引导企业和社会各界在合法合规的框架内发展AI技术，推动“科技向善”，让技术更好地服务于社会。
南方+记者 张思毅
订阅后可查看全文(剩余80%)
