下载客户端
今年以来，最热的无疑是人工智能（AI）话题。
当AI变得越来越“聪明”，几人欢喜几人忧？今年两会时，雷军的“热搜烦恼”引发热议。以靳东、雷军被侵权为典型，当下，AI成为辅助利器的同时，以造假为突出现象的问题正逐渐显现。
某种程度上，AI也像哪吒，在其迅猛发展之势中，也亟须找到兜住它的“乾坤圈”。3月8日，全国人大常委会工作报告指出，今年将围绕人工智能、数字经济、大数据等新兴领域加强立法研究。这意味着，我国AI治理正逐步从“补丁式规范”向“体系化建构”转型。
“乾坤圈”使哪吒的“魔力”不至于失控。资料图片
“乾坤圈”使哪吒的“魔力”不至于失控。资料图片
AI造假，什么是“假”？如何“造假”？“雷军的烦恼”怎么解？如何推动AI“向善”？“3·15”期间，南方+记者对话北京大学文化产业研究院副院长陈少峰、中国外文局亚太传播中心原总编辑王众一、中国科学院国家空间科学中心研究员孙志斌、北京元宇科幻未来技术研究院副院长陈柳岐、金诚同达律师事务所合伙人米新磊，与文化界、科学界、法律界人士一起思辨AI当前热点话题。
AI造假，什么是“假”？
南方+：我们如何辨别AI换脸变声等造假情形呢？
陈柳岐：首先是异常生硬或不自然的面部微表情，AI在精细表情和眼神上仍存在破绽。其次是音频语调是否过于平稳或略微机械感，真人情绪起伏更自然，AI易暴露模式化，还包括突兀的边缘和画质不连贯。但是以目前AI技术迭代更新的速度，我们普通大众将会越来越难以识别真伪。
至于违法性，关键看是否用于商业获利、是否侵害名誉或权益、传播谣言或诈骗。这些是界定违法的重要标准。
孙志斌：如果完全是由AI生成，人类没有参与修改，算是假。若人类参与了修改，并注明“由AI辅助完成”，即使有些错误，也可以称为学术研讨，后续通过校对方法和严谨的学术态度进行勘正。
简单判断AI是否造假的原则是其完整性和细节丰富度。AI在大面儿上处理得很周到，但缺乏细节。比如AI产生幻觉的作品，会存在手指头缺失等情况。每个人只需要用心，从整体性、逻辑严密性和数据真实性来考察生成结果，再对数据来源进行复核，基本上也可以判断出来。
南方+：我们判断AI造假的标准是什么？
陈柳岐：AI本身并不天然等于造假，“造假”应看背后的人类意图。若AI用于有意制造虚假信息、误导公众、损害他人权益，甚至构成欺诈，如用AI伪造明星言论欺骗公众，就是“造假”。而AI创作作品的“真与假”，则需要考虑其呈现目的、是否存在欺骗性动机，以及是否声明AI参与创作的事实。例如，AI生成的小说或绘画本身不是“假”。
王众一：以人类行为来说，说假话，包括下面几种情况：我拿了你的东西，却说没拿，这是撒谎；你没抄我的作业，我却到处散布说你抄了，这是造谣。
可还有一种情况，我们面对临终患者总会安慰他“很快就会好起来”，这是符合人情世故的善意的假话。善意的假话和恶意的撒谎或谣言，在AI那里如何区分？这是需要我们认真面对AI的伦理问题。如何限定服务型AI机器人的情感交互能力？是否应该纳入道德考量？最重要的是认知边界的重构。
AI如何“造假”？
南方+：众所周知，人工智能并没有主体意识。那为什么说是AI造假？
陈少峰：AI造假，不是AI本身的问题，而是人的问题。AI机器人在手术或医疗诊断方面表现出色，非常准确、精准和清晰。但在未来预测、给出结论等方面，还不够成熟。它的结论需要很多支撑，目前可能存在偏差或数据不足。例如明星赌博等造谣情况，AI所使用的数据残缺不全，可能会匹配很多穿透数据的内容，产生所谓的“幻想”。因为没有足够的细节，以及某专业领域足够的训练，AI在描述细节时会移花接木。因此，我认为这不是AI作为机器人主体的主观故意，而是其能力不足。
孙志斌：所谓AI造假，“假”应加双引号。它无意识生成的假的内容，有些是因为能力不足，有些是模型不确定性，有些是在产生过程中存在偏差。这缘于它边界性的不足和缺陷。人工智能大模型本身存在缺陷和不足，它不可能100%正确。
AI作为工具，可能被好心人无意中办了坏事，也可能被有恶意的人拿来做坏事。人也会犯错，如果使用者没有检查到位，那便是人与AI无意识中一起得到的错误。
王众一：与人类共生的智能机器人，某种意义上来说就是人的影子，人性的特质，不论好坏都会被它学了过去。因此我认为，人工智能现在开始出现说假话现象并不难解释。不排除有人有意识地向其投喂，引导其深度造假。有时候人工智能说假话也可能源自其模型幻觉，或者由于训练不够导致推理过程中出现逻辑荒谬。
南方+：当下，AI造假的动机是什么？
米新磊：很多深度伪造行为背后的目的是诈骗或获得流量。除了诈骗，很多深度伪造行为是为了获得公众的注意力，从而达到获取流量带货或变现的目的，这更防不胜防。如近日成为最新受害者的中国工程院院士张伯礼——其肖像与声音被AI技术伪造，用于某美白护肤品推广视频。
深度伪造技术需要通过大量图片、声音、视频对于AI模型进行训练，才能最大程度达到以假乱真的效果。对于名人而言，其公开的信息和数据相较普通人而言要多得多，而且唾手可得。正好为AI模型训练提供了大量的底层数据。如果说诈骗钱财是大量深度伪造行为背后的利益动因，和名人相关的海量的免费公开信息和数据则是技术动因。
AI就像哪吒，“乾坤圈”使其“魔力”规善。资料图片
AI就像哪吒，“乾坤圈”使其“魔力”规善。资料图片
“雷军的烦恼”怎么解？
南方+：当AI侵权，雷军惊觉“连法律武器都找不到合适的”。假如要维权，你有何建议？
米新磊：AI造假或是被AI侵权，前提肯定存在一个真人。一般而言，目前的AI造假或者侵权，主要侵犯的是真人的肖像权、声音权、姓名权以及名誉权。对于此类侵权行为的维权难点，主要在于找到具体侵权行为背后的行为人，因为如果没有明确的被告，民事诉讼连立案程序都无法推进。所以，现实中遇到类似的情形，一般都会选择报警，试图通过刑事侦查等方式，查出制作或者发布造假视频文件背后的个人或者组织。
陈柳岐：法律在AI侵权维权中的困境确实存在，但并非无解。我建议在维权思路上，明确AI伪造作品造成的实际损失或名誉损害，直接诉诸侵犯肖像权、名誉权、著作权。运用网络平台连带责任机制，通过平台迅速下架作品，同时要求平台配合提供发布者信息。推动司法实践创新，法院审理类似案件时，应逐渐形成针对AI造假的司法先例和裁量标准，逐步弥合法律漏洞。
南方+：被侵权人如何精准追溯到肇事方，链条上的涉事各方分别需要承担什么责任？
陈柳岐：我建议按责任主体追溯，如直接制作者首先承担直接侵权责任。发布传播者若明知或应知内容造假，构成帮助侵权或连带侵权责任。平台或技术提供方若未尽合理审查义务，同样需承担相应的监管失责责任。只有建立这样的责任体系，才能有效震慑AI造假泛滥。
南方+：用“AI鉴别AI”，用“AI对抗AI”，成为一种探索路径。其中逻辑是什么？
陈柳岐：本质逻辑是利用AI快速识别特征、模式识别能力强的优势，识别AI伪造作品中存在的“非人类模式”，例如生成痕迹、特定的机械化处理特征或异常模式。目前OpenAI研发的识别GPT生成文本的工具、Deepfake检测模型等，已逐步走向成熟并部分投入应用，但现实仍是“道高一尺，魔高一丈”，识别模型往往被新技术不断突破。
孙志斌：我认为即便能通过AI纠正AI的错误，被纠正的也是普通错误，无法达到逻辑上的推导演化。正如我们撰写文章时要考虑大逻辑，看论据与论点之间的关系是否有内在逻辑论证关系。然而这些逻辑关系无法替代论点与论据的本身的正确性。当AI给出的论据支撑了它要表达的观点，但是它要表达的观点是基于错误的论据得出结论，因此整体也是错误的。
AI如何“向善”？
南方+：随着AI进化，最终会“失控”吗？
陈少峰：目前还没有出现过AI使用大量普遍数据主动造假的情况。如果出现，这可能超过我们现在讨论的机器人范畴。
在AI发展中，已经出现两大伦理问题。一类是进入“人机共同体”社会之后，机器人和真人混搭领域的伦理问题，另一类是机器人比人类更聪明之后的伦理问题。多数人预测会出现比人聪明的机器人。要假定AI将拥有这个能力，才能防患于未然。因此研究人工智能技术，到临界点之前要停止。这是一件非常有趣的事情——谁能知道临界点在哪？谁先停下来？
孙志斌：人类为什么害怕AI？是害怕有人掌握并使用了这种工具，变得比没有使用它的人效率高。这份恐惧，产生于竞争。
世上没有完美的人，工具也不能完美。我们要尽量准确、正确、科学地使用AI工具。因此，我们不必害怕AI，而是接纳并广泛试错、发现错误，帮助它提高自己的能力。这是人与AI科学合理的互动学习过程。
南方+：我们应该如何与AI相处？怎样推动AI“向善”？
王众一：人类无可避免地要在不失去自我的前提下与AI共存，并始终把握先机，掌握主动。我们始终要有三重觉醒：拒斥技术乌托邦保持风险清醒；承认技术的有限性、不确定性；认识到技术存在的风险性，从安全角度高度防控风险。
我们要警惕绝对的技术至上主义，要捍卫人的主体地位。禁止在教育、司法等领域使用可能削弱人类能力的人工智能工具。写论文、人工智能代孕等都属于人类专属领域，不能让AI代行。要在传统教育中提高公众理解人工智能的原理、局限性的认知，避免在算法操纵下出现认知盲区。
AI说假话等行为，是其发展阶段所出现问题的冰山一角。终极的向善是以人为本。目前我们面临巨大的挑战，是在失控的资本和超级公司的控制下，出现了“科学妄人”。我们需要高度警惕，只有将人工智能技术置于公共监督之下，才能避免超级企业吞噬社会的现象发生。
陈柳岐：推动AI“向善”的关键，在于建立一个类似于“乾坤圈”之于哪吒的监管和伦理约束体系。
从技术层面，可以推广“水印”或“数字签名”等技术手段，确保AI作品的来源明确并可被追溯。从伦理层面，有必要制定统一的AI道德准则，明确规范开发者、平台及用户的行为，以树立行业底线意识。从法律层面，应当通过立法明确界定AI造假的法律责任，为受害方提供及时有效的司法支持。从社会层面，则应积极培养公众对AI内容的辨别能力，提升整体的媒介素养，形成社会层面的“AI免疫力”，共同抵御AI造假带来的负面影响。
AI的发展，既非“魔丸”，也非“灵珠”。AI的“乾坤圈”，不只在于约束技术，更在于规范背后的“人心”。
纵深阅读
采写：南方+记者 刘长欣
策划：钟展锋
设计：张文越
订阅后可查看全文(剩余80%)
