“广东模式”如何为大模型科学治理提供经验？这场研讨会找答案

近日，由广州市大湾区现代产业发展研究院（以下简称：研究院）承担的中国工程院院地合作重点课题《广东省人工智能大语言模型的安全合规监管战略研究》结题研讨会在广州召开。

研讨会上，课题执行副组长、广州大学网络空间安全学院齐佳音教授围绕“广东省人工智能大语言模型安全合规监管”从看趋势、评风险、建体系和造工具等方面进行展示，最后聚焦广东省的人工智能大语言模型安全提出针对性政策建议。在历时一年的研究中，项目团队提出了人工智能大模型安全风险的分类框架及分级评估方法，探索了人工智能大模型安全风险损失评估体系及量化方法，并构建了护卫思维下的大语言模型内容安全保险箍模式。此外，项目团队还研究了人工智能大模型对文化多元性的影响，并启动建设了多用途通用粤语语料库。

评审组组长丁文华院士认为，当前全球都非常关注人工智能带来的安全性的影响，比如宏观效应、伦理道德、监管手段和生成式人工智能的安全输出等方面。随着AIGC的不断迭代，安全监管也需要不断地跟进，所以这个课题后期的持续性研究还是非常重要的。

评审组专家一致认为，项目组高质量完成了全部研究任务，理论创新突出，实践价值显著，社会效应卓越，成果对国家和区域人工智能大语言模型合规监管战略制定、产业高质量发展具有重要支撑作用。

中国工程科技发展战略广东研究院办公室负责人郑文丰表示，项目的最终价值在于成果的落地与转化，服务于产业创新与社会发展。其次，就要加强与企业行业协会等的合作，推动成果落地应用。广东研究院将继续搭建平台，整合资源，共同推动项目成果在服务产业创新方面开花结果，为广东省高质量的发展注入新的动能。

项目负责人方滨兴院士指出，人工智能安全风险防控的“保险箍”机制或将以比预期更快的时间成为人工智能应用安全的实践解决方案，特别是对于人工智能行为体的安全风险防控。在人工智能安全合规监管创新方面，广东可以先试先行“保险箍”模式。

与会嘉宾表示，粤港澳大湾区作为我国人工智能科技创新与应用的高地，有责任在这一领域率先探索和实践，研究院将继续发挥高端智库的力量，整合资源，把研究成果转化落地，通过“广东模式”为我国生成式人工智能的科学治理提供经验。

南方+记者  叶丹