不少名人“被直播”，捉拿“AI李鬼”是场持久战

文 | 维 辰

近期，从演员到企业家再到两院院士，不少名人“被直播”：不法商家利用AI技术仿冒公众人物形象，在直播、短视频等环节发布营销信息，误导网民。日前，国家网信办表示，已累计处置仿冒公众人物账号1.1万余个，将继续压实网站平台主体责任，对利用AI仿冒公众人物开展直播营销问题保持高压严管态势。

00:50

被AI盗播，多名温峥嵘同时直播带货

擅自利用AI生成他人形象，借名人之口替自己宣传，说白了就是免费蹭名人流量，这不仅是侵犯被仿冒人士肖像权、消费者知情权这么简单。比如，不少知名专家被不法商家仿冒，用于养生、瘦身等虚假宣传，销售各类商品，误导消费者，医院、医生深受其害。此外，如一位被仿冒人士所说，视频里的错误信息也会让“学界长期以来的科普努力付诸东流”，甚至“过去那些错误认知出现了反流或加重，这点比对我个人影响还要坏”。

换言之，AI仿冒名人视频或者说AI造假更持久、更深层次的危害在于，以假乱真。当眼见不为真、耳听不为实，社会信任机制被一点点瓦解，人与人之间的沟通成本也将不断上升，影响不可谓不大。

AI造假技术门槛低，众所周知。按道理说，《人工智能生成合成内容标识办法》明确要求AI生成内容必须“亮明身份”，但名人IP自带强大流量与极高公众信任度，利益驱动下，不法商家或用极小的字体显示、将标注藏在角落，有意淡化AI生成标识，或通过境外生成工具等手段直接绕开标识要求，导致责任主体难追溯。

而即便维权成功，判赔金额往往不够支付维权成本，且侵权者换个号就能“满血复活”——张文宏医生曾表示，“这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人”；演员温峥嵘最近自曝被AI换脸盗播，其团队工作人员反映，造假账号被平台下架处理，有的则刚下架就换个形式重新出现——凸显AI造假治理之困：维权成本高，违法成本低。

名人维权尚且如此艰难，普通消费者又有多少应对之力？捉拿“AI李鬼”也好，更广泛意义上的治理AI造假也罢，不能只靠被仿冒人士、消费者单打独斗，而需社会共治；面对AI技术变化快、不法商家“换马甲”成本低等特点，也很难指望有什么“一吃就见效”的“根治灵药”。治理AI造假、捉拿“AI李鬼”，是场持久战。

技术层面，生成和鉴伪的对抗性非常强，平台需持续长期投入，加强对AI生成内容的审核，精准识别规避标识要求的“绕路者”，优化举报激励机制，强化维权支持，更好落实主体责任。治理层面，今年10月，北京查处首例滥用AI技术发布虚假广告案，对“AI李鬼”新业态乱象亮剑，跨部门协调机制与系统性治理不断完善，如何提高违法成本有待探索。而对于公众而言，以假乱真时代到来，如何应对AI风险隐患成为必答题，辨别意识和能力也已成为必备素养。