下载客户端
电影《机械姬》中，科技赋予AI无限逼真的拟真能力，却伴随人类对真实与虚假的失控感。
剧集《黑镜》中，AI以假乱真的程度达到令现实真假难辨、伦理模糊的地步。
北京元宇科幻未来技术研究院副院长陈柳岐认为，如今AI造假的泛滥，恰恰验证了科幻作品的警示：人类过度信任或放任AI，无节制地模拟现实，将加速真相与虚假的边界崩塌。
AI造假，电影早有预言
上世纪80年代在中国上映的电影《未来世界》中，500型机器人只是给人类打下手，甚至没有面孔。可它会陪着工程师玩扑克，当工程师转身做别的事，机器人竟会偷看工程师的牌。
在科幻电影《未来世界》中，没有面孔的500型机器人在陪工程师打扑克。资料图片
在科幻电影《未来世界》中，没有面孔的500型机器人在陪工程师打扑克。资料图片
这让中国外文局亚太传播中心原总编辑王众一第一次意识到，机器人在与人的互动中，会汲取人身上的行为模式。“现实中人工智能出现的撒谎、造假、出现幻觉等问题，有先见之明的科幻片导演，早在近半个世纪之前就做了预言。”
金诚同达律师事务所合伙人米新磊表示，《智人之上》一书提到，算法或者聊天机器人，为了达到目标，有可能自主编造谎言。“现在想来，与现实中的一些事件产生了微妙呼应。”
作为科幻电影爱好者，王众一用“惊心动魄”来概括他当年的观影感受。他由衷地钦佩那些半个世纪前的科幻电影导演：“他们先知般的睿智，令人回望起来感到窒息。”
在电影《银翼杀手》片尾，逃亡的复制人罗伊·贝迪留下遗言：“我目睹战舰在猎户星座的端沿起火燃烧……死亡的时刻到了。”
电影《银翼杀手》中，复制人有对死亡的恐惧。资料图片
电影《银翼杀手》中，复制人有对死亡的恐惧。资料图片
王众一时常会想起这被誉为“科幻作品最美遗言”的台词并感叹不已。求生欲望和质疑的本能，令复制人有了主观意识和人类的情感。这些科幻经典告诉我们：“只有保持对技术的警惕，并认真地与之对话，才能在技术创新与人类生存之间找到平衡点。”
AI“有害”，责任在人类
诸多科幻作品中，人类与科技的关系，是其思考的关键。
北京大学文化产业研究院副院长陈少峰会畅想，或许再过5年，他的课程会由机器人讲解，他只需要做辅助工作。接着他似乎在自言自语，届时“我们不敢再讲课了”，因为听众可能会询问AI，老师的讲解是否正确，这时，AI可能会回答：“陈老师刚才讲了15分钟，讲‘错’了15个地方。”
“人工智能已经以预言般的形式，介入到了人类生活的方方面面。”米新磊说。电影《她》中，科技使人们躲在它后面，逃避真正的情感接触。“这并非空想，而很有可能变成现实。”他提到，当聊天机器人程序出现，它正在与人类争夺亲密关系。
电影《她》中。男主角与人工智能谈恋爱。资料图片
电影《她》中。男主角与人工智能谈恋爱。资料图片
陈柳岐观察，在科幻作品中，AI从“无害”变为“有害”，通常基于两点：人类对AI毫无节制地纵容或过度赋权，电影《西部世界》中，人类无限制地操控AI，使得AI在觉醒后产生反抗甚至报复人类的意图；由于算法本身的逻辑缺陷或设定偏差，电影《2001太空漫游》中，AI系统HAL9000因程序中的矛盾逻辑而产生伤害人类的意图。
电影《2001太空漫游》剧照。资料图片
电影《2001太空漫游》剧照。资料图片
“这些作品提醒我们，AI造成伤害的根源，通常并非AI本身，而是人类在道德、技术或监管上的失控。”陈柳岐说。
纵深阅读
采写：南方+记者 刘长欣
策划：钟展锋
订阅后可查看全文(剩余80%)
