“五台县车辆失联10人死”系AI造谣！南都曾起底相关乱象

8月19日，南都N视频记者从公安部网安局获悉，近日，山西网警依法查处编造“车辆失联、10人遇难”网络谣言案，发现有关内容为AI生成画面，恶意蹭炒误导公众。造谣网民已被公安机关依法处以行政拘留。

顾某某被公安机关依法处以行政拘留。

顾某某被公安机关依法处以行政拘留。

近日，山西忻州网警在工作中发现，有网民在网络平台发布“关于山西省忻州市五台县境内发生的车辆失联事件，导致10人遇难，2人受伤”的虚假信息，其内容实为AI生成画面，恶意蹭炒误导公众。经核查，五台县境内未发生任何车辆失联事件，网民顾某某为博取眼球、吸引关注，将捏造的上述不实信息在网络平台散布，严重扰乱了正常的社会秩序。目前，顾某某已被公安机关依法处以行政拘留。

南都此前报道。

南都此前报道。

南都此前报道，近年来，利用AI造谣的乱象愈发猖獗。8月5日，南都记者实测发现，网上不乏可免费使用的“AI写作神器”“视频生成器”。输入简单指令，涉及汛情、火灾等敏感主题的虚假文案瞬间生成；炮制“正式警情通报”，AI工具亦可模仿官方口吻编造细节；甚至普通景区照片经AI处理，即可变成“桥梁断裂事故”视频。

应对挑战需要技术、教育等多轨并进。暨南大学夏志华教授团队研发了视觉深度伪造检测、溯源与防御系统；上海高中生开展“5分47秒生成虚假校园通报”实验，亲身体验发出警示。

“这是一场‘技术攻防战’叠加‘认知保卫战’。”夏志华向南都记者强调，唯有技术对抗、法规约束、平台治理与公众教育多管齐下，才能在算法洪流中守护人类的真实底线。

采写：南都N视频记者 敖银雪