今年以来,最热的无疑是人工智能(AI)话题。
当AI变得越来越“聪明”,几人欢喜几人忧?今年两会时,雷军的“热搜烦恼”引发热议。以靳东、雷军被侵权为典型,当下,AI成为辅助利器的同时,以造假为突出现象的问题正逐渐显现。
某种程度上,AI也像哪吒,在其迅猛发展之势中,也亟须找到兜住它的“乾坤圈”。3月8日,全国人大常委会工作报告指出,今年将围绕人工智能、数字经济、大数据等新兴领域加强立法研究。这意味着,我国AI治理正逐步从“补丁式规范”向“体系化建构”转型。
“乾坤圈”使哪吒的“魔力”不至于失控。资料图片
“乾坤圈”使哪吒的“魔力”不至于失控。资料图片
AI造假,什么是“假”?如何“造假”?“雷军的烦恼”怎么解?如何推动AI“向善”?“3·15”期间,南方+记者对话北京大学文化产业研究院副院长陈少峰、中国外文局亚太传播中心原总编辑王众一、中国科学院国家空间科学中心研究员孙志斌、北京元宇科幻未来技术研究院副院长陈柳岐、金诚同达律师事务所合伙人米新磊,与文化界、科学界、法律界人士一起思辨AI当前热点话题。
AI造假,什么是“假”?
南方+:我们如何辨别AI换脸变声等造假情形呢?
陈柳岐:首先是异常生硬或不自然的面部微表情,AI在精细表情和眼神上仍存在破绽。其次是音频语调是否过于平稳或略微机械感,真人情绪起伏更自然,AI易暴露模式化,还包括突兀的边缘和画质不连贯。但是以目前AI技术迭代更新的速度,我们普通大众将会越来越难以识别真伪。
至于违法性,关键看是否用于商业获利、是否侵害名誉或权益、传播谣言或诈骗。这些是界定违法的重要标准。
孙志斌:如果完全是由AI生成,人类没有参与修改,算是假。若人类参与了修改,并注明“由AI辅助完成”,即使有些错误,也可以称为学术研讨,后续通过校对方法和严谨的学术态度进行勘正。
简单判断AI是否造假的原则是其完整性和细节丰富度。AI在大面儿上处理得很周到,但缺乏细节。比如AI产生幻觉的作品,会存在手指头缺失等情况。每个人只需要用心,从整体性、逻辑严密性和数据真实性来考察生成结果,再对数据来源进行复核,基本上也可以判断出来。
南方+:我们判断AI造假的标准是什么?
陈柳岐:AI本身并不天然等于造假,“造假”应看背后的人类意图。若AI用于有意制造虚假信息、误导公众、损害他人权益,甚至构成欺诈,如用AI伪造明星言论欺骗公众,就是“造假”。而AI创作作品的“真与假”,则需要考虑其呈现目的、是否存在欺骗性动机,以及是否声明AI参与创作的事实。例如,AI生成的小说或绘画本身不是“假”。
王众一:以人类行为来说,说假话,包括下面几种情况:我拿了你的东西,却说没拿,这是撒谎;你没抄我的作业,我却到处散布说你抄了,这是造谣。
可还有一种情况,我们面对临终患者总会安慰他“很快就会好起来”,这是符合人情世故的善意的假话。善意的假话和恶意的撒谎或谣言,在AI那里如何区分?这是需要我们认真面对AI的伦理问题。如何限定服务型AI机器人的情感交互能力?是否应该纳入道德考量?最重要的是认知边界的重构。
AI如何“造假”?
南方+:众所周知,人工智能并没有主体意识。那为什么说是AI造假?
陈少峰:AI造假,不是AI本身的问题,而是人的问题。AI机器人在手术或医疗诊断方面表现出色,非常准确、精准和清晰。但在未来预测、给出结论等方面,还不够成熟。它的结论需要很多支撑,目前可能存在偏差或数据不足。例如明星赌博等造谣情况,AI所使用的数据残缺不全,可能会匹配很多穿透数据的内容,产生所谓的“幻想”。因为没有足够的细节,以及某专业领域足够的训练,AI在描述细节时会移花接木。因此,我认为这不是AI作为机器人主体的主观故意,而是其能力不足。
孙志斌:所谓AI造假,“假”应加双引号。它无意识生成的假的内容,有些是因为能力不足,有些是模型不确定性,有些是在产生过程中存在偏差。这缘于它边界性的不足和缺陷。人工智能大模型本身存在缺陷和不足,它不可能100%正确。
AI作为工具,可能被好心人无意中办了坏事,也可能被有恶意的人拿来做坏事。人也会犯错,如果使用者没有检查到位,那便是人与AI无意识中一起得到的错误。
王众一:与人类共生的智能机器人,某种意义上来说就是人的影子,人性的特质,不论好坏都会被它学了过去。因此我认为,人工智能现在开始出现说假话现象并不难解释。不排除有人有意识地向其投喂,引导其深度造假。有时候人工智能说假话也可能源自其模型幻觉,或者由于训练不够导致推理过程中出现逻辑荒谬。
南方+:当下,AI造假的动机是什么?
米新磊:很多深度伪造行为背后的目的是诈骗或获得流量。除了诈骗,很多深度伪造行为是为了获得公众的注意力,从而达到获取流量带货或变现的目的,这更防不胜防。如近日成为最新受害者的中国工程院院士张伯礼——其肖像与声音被AI技术伪造,用于某美白护肤品推广视频。
深度伪造技术需要通过大量图片、声音、视频对于AI模型进行训练,才能最大程度达到以假乱真的效果。对于名人而言,其公开的信息和数据相较普通人而言要多得多,而且唾手可得。正好为AI模型训练提供了大量的底层数据。如果说诈骗钱财是大量深度伪造行为背后的利益动因,和名人相关的海量的免费公开信息和数据则是技术动因。
AI就像哪吒,“乾坤圈”使其“魔力”规善。资料图片
AI就像哪吒,“乾坤圈”使其“魔力”规善。资料图片
“雷军的烦恼”怎么解?
南方+:当AI侵权,雷军惊觉“连法律武器都找不到合适的”。假如要维权,你有何建议?
米新磊:AI造假或是被AI侵权,前提肯定存在一个真人。一般而言,目前的AI造假或者侵权,主要侵犯的是真人的肖像权、声音权、姓名权以及名誉权。对于此类侵权行为的维权难点,主要在于找到具体侵权行为背后的行为人,因为如果没有明确的被告,民事诉讼连立案程序都无法推进。所以,现实中遇到类似的情形,一般都会选择报警,试图通过刑事侦查等方式,查出制作或者发布造假视频文件背后的个人或者组织。
陈柳岐:法律在AI侵权维权中的困境确实存在,但并非无解。我建议在维权思路上,明确AI伪造作品造成的实际损失或名誉损害,直接诉诸侵犯肖像权、名誉权、著作权。运用网络平台连带责任机制,通过平台迅速下架作品,同时要求平台配合提供发布者信息。推动司法实践创新,法院审理类似案件时,应逐渐形成针对AI造假的司法先例和裁量标准,逐步弥合法律漏洞。
南方+:被侵权人如何精准追溯到肇事方,链条上的涉事各方分别需要承担什么责任?
陈柳岐:我建议按责任主体追溯,如直接制作者首先承担直接侵权责任。发布传播者若明知或应知内容造假,构成帮助侵权或连带侵权责任。平台或技术提供方若未尽合理审查义务,同样需承担相应的监管失责责任。只有建立这样的责任体系,才能有效震慑AI造假泛滥。
南方+:用“AI鉴别AI”,用“AI对抗AI”,成为一种探索路径。其中逻辑是什么?
陈柳岐:本质逻辑是利用AI快速识别特征、模式识别能力强的优势,识别AI伪造作品中存在的“非人类模式”,例如生成痕迹、特定的机械化处理特征或异常模式。目前OpenAI研发的识别GPT生成文本的工具、Deepfake检测模型等,已逐步走向成熟并部分投入应用,但现实仍是“道高一尺,魔高一丈”,识别模型往往被新技术不断突破。
孙志斌:我认为即便能通过AI纠正AI的错误,被纠正的也是普通错误,无法达到逻辑上的推导演化。正如我们撰写文章时要考虑大逻辑,看论据与论点之间的关系是否有内在逻辑论证关系。然而这些逻辑关系无法替代论点与论据的本身的正确性。当AI给出的论据支撑了它要表达的观点,但是它要表达的观点是基于错误的论据得出结论,因此整体也是错误的。
AI如何“向善”?
南方+:随着AI进化,最终会“失控”吗?
陈少峰:目前还没有出现过AI使用大量普遍数据主动造假的情况。如果出现,这可能超过我们现在讨论的机器人范畴。
在AI发展中,已经出现两大伦理问题。一类是进入“人机共同体”社会之后,机器人和真人混搭领域的伦理问题,另一类是机器人比人类更聪明之后的伦理问题。多数人预测会出现比人聪明的机器人。要假定AI将拥有这个能力,才能防患于未然。因此研究人工智能技术,到临界点之前要停止。这是一件非常有趣的事情——谁能知道临界点在哪?谁先停下来?
孙志斌:人类为什么害怕AI?是害怕有人掌握并使用了这种工具,变得比没有使用它的人效率高。这份恐惧,产生于竞争。
世上没有完美的人,工具也不能完美。我们要尽量准确、正确、科学地使用AI工具。因此,我们不必害怕AI,而是接纳并广泛试错、发现错误,帮助它提高自己的能力。这是人与AI科学合理的互动学习过程。
南方+:我们应该如何与AI相处?怎样推动AI“向善”?
王众一:人类无可避免地要在不失去自我的前提下与AI共存,并始终把握先机,掌握主动。我们始终要有三重觉醒:拒斥技术乌托邦保持风险清醒;承认技术的有限性、不确定性;认识到技术存在的风险性,从安全角度高度防控风险。
我们要警惕绝对的技术至上主义,要捍卫人的主体地位。禁止在教育、司法等领域使用可能削弱人类能力的人工智能工具。写论文、人工智能代孕等都属于人类专属领域,不能让AI代行。要在传统教育中提高公众理解人工智能的原理、局限性的认知,避免在算法操纵下出现认知盲区。
AI说假话等行为,是其发展阶段所出现问题的冰山一角。终极的向善是以人为本。目前我们面临巨大的挑战,是在失控的资本和超级公司的控制下,出现了“科学妄人”。我们需要高度警惕,只有将人工智能技术置于公共监督之下,才能避免超级企业吞噬社会的现象发生。
陈柳岐:推动AI“向善”的关键,在于建立一个类似于“乾坤圈”之于哪吒的监管和伦理约束体系。
从技术层面,可以推广“水印”或“数字签名”等技术手段,确保AI作品的来源明确并可被追溯。从伦理层面,有必要制定统一的AI道德准则,明确规范开发者、平台及用户的行为,以树立行业底线意识。从法律层面,应当通过立法明确界定AI造假的法律责任,为受害方提供及时有效的司法支持。从社会层面,则应积极培养公众对AI内容的辨别能力,提升整体的媒介素养,形成社会层面的“AI免疫力”,共同抵御AI造假带来的负面影响。
AI的发展,既非“魔丸”,也非“灵珠”。AI的“乾坤圈”,不只在于约束技术,更在于规范背后的“人心”。
纵深阅读
采写:南方+记者 刘长欣
策划:钟展锋
设计:张文越
订阅后可查看全文(剩余80%)