7位专家就如何推动大模型“可用”及“可信”进行圆桌研讨。
邬贺铨(中国工程院院士)
陈俊龙(欧洲科学院院士、琶洲实验室副主任、华南理工大学计算机科学与工程学院院长)
王维强(蚂蚁集团安全实验室首席科学家、可信AI负责人)
李超(腾讯云天御首席科学家)
扫码看详情
2023年，AIGC席卷全球，如何推动人工智能安全发展备受关注。
12月19日，以“势起AI 智启新界”为主题的“大模型创新应用与安全治理大会”在广州举行，该活动由南方报业传媒集团指导，南方都市报、南都大数据研究院联合琶洲实验室、光明实验室主办，旨在发挥智媒传播、研究、连接和共建的特长，携手各界助力广东加快建设通用人工智能产业创新引领地，协同探索人工智能监管模式创新。广东省委网信办相关领导出席本次大会。
会上，中国工程院院士邬贺铨，欧洲科学院院士、琶洲实验室副主任陈俊龙等专家大咖，以及来自多家高校、科研机构、行业企业的代表齐聚，围绕人工智能大模型技术、治理和应用等话题展开分享和研讨。
南都大数据研究院在活动上启动“跃迁计划”，并发起共建“AI治理与创新智联体”。南方都市报社党委书记、总裁戎明昌与相关单位机构代表共同见证“AI治理与创新智联体”成立。
邬贺铨、陈俊龙等院士大咖共话大模型
探讨如何形成安全、可靠、可控的AI技术
在主题分享环节，院士专家、行业技术专家围绕“AI赋能数字经济”“新型数据隐私”“大模型安全”“大模型构建金融风控”等话题发表深入见解。
中国工程院院士邬贺铨以“上云落地大模型 数字经济谱新篇”为主题作分享，他指出，大模型落地催生新一轮技术创新与产业变革，加速赋能数字化转型，激活数据要素提质数字经济，善于应用数据的企业成为经济增长的主要引擎。而且，随着将具有百亿参数大模型的推理能力嵌入手机，同声传译、智能识图等智能助手服务正在丰富我们的数智化生活。
他强调，大模型上云落地，能够加速形成新质生产力，推动数字经济的提质换挡。广东是制造业大省，希望广东的基础大模型能够跟行业更好地结合。
欧洲科学院院士、琶洲实验室副主任、华南理工大学计算机科学与工程学院院长陈俊龙带来主题演讲“数据智能与新型数据隐私的探讨”，在其看来，如果数据量够大，算力够强，未来所有公共数据很可能被置于大型的通用模型中，这个大模型有可能非常聪明，接近通用人工智能大模型。他强调，数据共享必须考虑隐私和安全的问题，当前除同态加密、差分隐私、联邦学习、安全多方计算四种隐私保护机器学习方法外，宽度学习在国内外的应用也非常广泛。
以“大模型安全的紧迫性和实践分享”为题，蚂蚁集团安全实验室首席科学家、可信AI负责人王维强认为，大模型时代亟须安全、可靠、可控的AI技术，核心是如何解决超大规模数据中的生成式学习范式下的安全可靠可控。而保障大模型安全性的几个关键环节主要有三个，一是从训练数据源头消毒；二是做护栏加固防止推理过程黑盒的不可控问题；三是面对外部诱导的对抗攻击。
腾讯云天御首席科学家李超则聚焦金融行业的“命门”——风控环节解读了大模型的应用场景。他指出，在客户运营精细化、黑产欺诈愈加复杂等背景下，金融风控的应对策略已经由传统相对静态的策略对抗，逐渐升级为更加敏捷的“模型对抗”。在他看来，基于风控大模型的自动化建模技术，可以帮助金融机构敏捷迭代既有丰富风控知识沉淀、又适配具体业务场景的风控模型，实现风险的动态治理。
10家单位机构共建“AI治理与创新智联体”
南都“粤来粤AI”大型研究报道将同步开启
为了进一步助力广东加快建设通用人工智能产业创新引领地，协同探索人工智能监管模式创新。此次大会上，由南方都市报、南都大数据研究院发起，首批10家平台、机构共建“AI治理与创新智联体”，政产学研媒，共筑人工智能发展生态，探索人工智能治理良策。
首批“AI治理与创新智联体”成员单位分别是南方都市报、南都大数据研究院、琶洲实验室、光明实验室、广州人工智能公共算力中心、中山大学人工智能学院、暨南大学人工智能产业学院、广东财经大学网络传播学院、深圳大学创新发展法治研究院、香港科技大学(广州)人工智能前沿交叉科学重点实验室、泰和泰深圳数字经济法律研究院。10家平台、机构的代表以及相关领导共同参与和见证了共建仪式举行。
据悉，南都“粤来粤AI”大型研究报道也将同步开启，将从产业基础、算力能力、应用场景、人才储备、安全治理等角度展开调研、观察、评测和研讨，呈现创新成果、分享经验需求，构建交流网络，充分积极传播。
南都大数据研究院启动“跃迁计划”
重点在四大领域开拓进取
据悉，此次大会是2023年南方都市报智库产品发布周的首场活动。以“深融合，新联结，高智量”为主题，本届智库周于12月19日-23日，陆续在广州、深圳、北京、上海4地举办7场线下活动。
2018年春，南都提出“做中国一流智库媒体”的目标愿景，“南都大数据研究院”应运而生。它也是南都打造智库媒体新产品、新服务、新价值的主力平台和重要引擎，不断协同共治，赋能创新。在大模型创新应用与安全治理大会上，南都大数据研究院启动了“跃迁计划”，南方都市报社党委委员、副主编、南都大数据研究院执行院长王卫国介绍，南都大数据研究院将进一步聚焦“数字经济与数据治理”，并重点在四大领域开拓进取，分别是:促进“数字素养与文明提升”，发挥智媒引导功能；参与“数据要素流通与转化”，发挥智媒服务功能；维护“网络内容与数据安全”，发挥智媒治理功能；推动“人工智能可信与普惠”，发挥智媒融创功能。
“南都在打造智库媒体上面，走在了全国同行前列”，对于南都智媒转型，邬贺铨院士认为，南都聚焦数字经济和数据治理的发展，彰显时代特点，发出时代强音，特别是当下人工智能技术蓬勃发展，南都紧紧抓住时代机遇，在宣传人工智能应用、鼓励AI技术创新等方面做出了贡献，做出了智媒担当。陈俊龙院长则评价，“南都通过多元智媒服务，深度融入人工智能发展版图，我非常期待。AI安全治理，需要有媒体的力量!”
发布《发展负责任的金融AIGC联合倡议》
涵盖三大价值观、八项基本原则
生成式人工智能的出现，成为金融数字化转型的强力“催化剂”。会上，南方都市报、南都大数据研究院联合近20家高校、科研机构、行业企业发起《发展负责任的金融AIGC联合倡议》，该倡议书涵盖三大价值观、八项基本原则，旨在推动金融机构、科技公司等各方主体更负责任并合乎道德地应用生成式人工智能，擦亮金融为民底色。
此次活动还发布了“年度前沿人工智能应用案例”“年度数智金融先锋案例”，蚂蚁集团、度小满、奇富科技、马上消费、乐信、新浪数科、融360七家企业的案例脱颖而出。
大咖声音
邬贺铨(中国工程院院士):大模型落地落到终端，可以带动互联网平台及相关服务还有数字内容和媒体的发展，会让新经济形态更多充实到新质生产力，推动数字经济的提质换挡。
陈俊龙(欧洲科学院院士、琶洲实验室副主任、华南理工大学计算机科学与工程学院院长):广东提出加快建设通用人工智能产业创新引领地，我们要驾驭AI大模型赋能千行百业，助力数智经济高质量发展。
王维强(蚂蚁集团安全实验室首席科学家、可信AI负责人):新AI时代，信息真实性和新型风险亟待解决，也迎来了新的平台责任。大模型时代亟须安全、可靠、可控的AI技术，核心是如何解决超大规模数据中的生成式学习范式下的安全可靠可控。
李超(腾讯云天御首席科学家):落地实效是大模型价值的重要评估维度，金融业就是天然的大模型效能检验场，数据驱动决策、模型应用已经深入前中后台。如今，在金融零售信贷业务的核心风控环节，领先的金融机构已经开始利用大模型技术自动化迭代风控模型，实现更加精细化的风险量化识别与决策。
圆桌研讨
应对AI大模型发展挑战 专家研讨共建安全治理新生态
以ChatGPT为起点，热烈的“百模大战”正在进行。AI大模型目前面临哪些挑战?如何发展负责任的AI大模型?AI大模型产业发展还有哪些创新突破空间?大会上，学界专家和业界代表共聚一堂，围绕“共探‘AI向善’:如何推动大模型‘可用’及‘可信’”进行研讨。
AI大模型发展面临三方面挑战
AI大模型的发展引发了新一轮科技变革，同时也面临着不少挑战。
中山大学-善思开悟AI创新赋能联合实验室执行主任韦立坚认为，当前我国AI大模型发展面临着自主研发能力不足、训练数据原料不足、算力短缺等3个方面的挑战，其提出4个建议:一是加强基础研究与产学研合作；二是企业间联合研发，打通语料数据；三是实现算力统管、纳管，统一调度，智算和超算融合，弥补大模型算力不足；四是加强国产通用GPU研发，应对国家层面的技术安全和经济安全所面临的挑战。
圆桌主持人、泰和泰(深圳)律师事务所高级合伙人易怀炯则从法律风险的角度出发，指出在AI大模型迭代过程中，对数据的搜集、使用、算法训练等手段本身存在风险，比如说可能会违反数据安全规定。此外，AI大模型作为一个工具，可能会被恶意用作犯罪工具，存在目的行为的风险。
在深圳大学法学院教授、深圳大学创新发展法治研究院院长叶卫平看来，人工智能技术发展本身及其商业化应用是难以预知的，但在技术发展过程中，我们在不断了解它、接受它、掌握它，同时法律也在同步跟进人工智能安全隐私保护等方面的问题。总体而言，安全保障机制和法律机制可以良性互动，同步前进，AI大模型因而也有望安全可控。
产学研需要更深层次结合和支持
AI大模型已经引领千行百业数智化创新。如何更好将高校、实验室等机构的AI大模型创新研究，及时转化应用成果，赋能产业发展?
光明实验室研究员、生成式大模型团队负责人姜文浩认为，产学研需要更深层次的结合。“很多时候研究员对于企业方面需求的了解并不是那么细致，甚至不太了解新的需求，所以需要有一个更深度的互相了解、沟通，才能有效促进产学研的交流。”此外，AI大模型的研究及业务应用，代价比较大，更需要政策、税收、人才等方面的扶持。
中山大学人工智能学院副教授、硕士生导师刘威则指出，高校应该更多和本地企业、科研机构建立更加密切的合作关系，如通过定期研讨会、工作坊等共享科研成果，分享市场需求，加快科研成果的转化。例如，针对广东的特色产业，在先进制造业、金融业、新能源等领域可共同做定制化的科研项目。
共同解决大模型应用安全
来自企业的代表则从业界实践方面，分享在各自的垂直领域中保障AI大模型安全可信的难点和经验。
马上消费人工智能研究院算法总监肖冰介绍，相比一般的大模型安全性要求，金融行业有特定的要求和合规场景，一是通用的大模型隐私要求，二是金融行业合规场景，如客群年龄限制、贷款利率红线等。此外，在企业线上应用中，大模型本身的推理问题也比较难解决。对此，马上消费主要从数据、模型、方案三个层面，保证大模型的安全可用。此外，马上消费还通过和政府、学界力量合作，检测各种漏洞，增强大模型的安全性。
金山办公安全中心负责人刘振全则表示，WPS在大模型上主要遇到数据安全、大模型的不稳定性和不可解释性两大问题。针对数据安全，WPS主要在组织管理、技术、制度等三个方面采取措施，对整个数据生命周期进行监控和管控。对于模型的不稳定性和不可解释性，WPS打造了一套AI网关，引入内容审核机制以管理模型，同时打造一个细分到产品领域的提示词平台，基于不同模型的特点，灵活调试提示词、参数，保证模型输出的结果符合用户预期，且符合道德标准和法律法规。
在确保人工智能蓬勃发展的同时，不失伦理底线，不破法律边界，践行责任担当，共建AI安全治理新生态已成共识。易怀炯认为，南都携手实验室、高校、研究机构等发起成立“AI治理与创新智联体”，与行业企业联合发布《负责任人工智能大模型金融应用倡议》，都是非常好的实践，充分体现南都的智媒担当。他总结称，“我们要变被动为主动，主动作为，主动共治，共享发展。”
A08-09
监制:戎明昌 刘江涛
策划:王卫国 邹莹
统筹:凌慧珊 关健明
编辑统筹：董淑云
采写:南都记者 张雨亭 熊润淼 袁炯贤 谢小清 唐静怡 罗韵 李雨佳
设计:尹洁琳 原毅
出品:南都大数据研究院
