‌·

“2022啄木鸟数据治理论坛”在北京举办

智能之外,如何监管?

来源:南方都市报     2022年12月23日        版次:GA06    作者:李玲 黄莉玲 黄慧诗

  12月22日,“2022啄木鸟数据治理论坛”在京召开。本次论坛由南都个人信息保护研究中心联合清华大学人工智能国际治理研究院、人工智能治理研究中心(清华大学)主办。

  当天论坛分为“数字经济”“算法治理”“个人信息保护”“平台经济反垄断”四个专场,共有十余位嘉宾参与讨论。论坛上,南都个人信息保护研究中心发布了《算法应用与治理观察报告》《个人信息安全年度报告》《平台经济反垄断观察报告》。

  据悉,南都“智库产品发布周”已经连续五年举办,今年的主题是“融通无限,创新不止”,将于21日-27日在北京、广州、佛山、江门四座城市发布智库报告和智库产品。

  谈数字经济 在GDP占比不足40%仍有提升空间

  全国人大社会建设委员会副主任委员、世界互联网大会秘书长、中国网络社会组织联合会会长任贤良通过视频形式出席,在致辞中分享了他对数字经济发展的看法。

  他认为,数字经济高质量发展离不开法治的轨道,应当加强数字经济法治建设。下一步加快数据权属确认,权益分配等领域的立法。同时加快数字技术自主创新、推进数字经济利民惠民、确保数字生态安全、推动数字文明交流互鉴。

  南方都市报党委副书记、主编刘江涛在致辞中表示,今天南都发布的三份报告是对算法治理、个人信息保护和反垄断方面的最新观察和发现。“我们希望像啄木鸟一样,发现并消除数字经济发展中出现的问题,与行业共生。同时将联动各界共同助力企业数据治理向善、为相关部门的规则健全和监管提供研究支持。”

  在主旨演讲环节,全国人大宪法和法律委员会副主任委员江必新围绕技术权力规制分享了看法。他指出,技术是一把双刃剑,既可以用来为人类谋福祉,也可能伤害人类,因此应该趁它还没有发展成一种垄断权力的时候,用理性、科学的态度去规制,尤其要注意“不要因噎废食,不要因为规制阻碍科学技术发展”。在他看来,规制技术权力需要划定底线和边界、设定基本规则、设置正当程序和自我合规制度,还要设置监督、追责机制。与此同时,还要注意要处理好规范制约与促进发展的关系、利用法治方式打破技术垄断、加强国际合作等九个问题。

  北京大学国家发展研究院副院长黄益平认为,当前中国数字经济确实存在“大而不强”的问题。当前一些发达国家比如美国、德国等,其数字经济占GDP的比重超过65%,而中国的占比接近40%,这说明中国的数字经济发展仍有提升空间。考虑到中国还是一个发展中国家,基于现有经济技术发展水平,不能要求中国很多领域都处于全球领先。同时应看到,过去五六年间中国在一些关键领域的技术突破明显。

  黄益平认为,反垄断有必要,但应当关注数字经济的特性。相比看市场份额、市场规模,关注市场可竞争性条件尤为重要——“即便将来看到有垄断倾向和现象,更好的解决办法不是分拆,而是改善市场可竞争性的条件。”

  谈算法治理 需正视人工智能伦理3大问题

  在“算法治理专场”中,中国科学院人工智能伦理与治理研究中心主任、国家新一代人工智能治理专委会委员曾毅指出,我国人工智能在数据、算法方面治理政策进展显著,在平台与应用方面的政策和落地尚需加紧。此外,他认为目前人工智能伦理有三个相当紧迫的问题需要被正视:首先人工智能应当被适度使用;其次,目前人工智能服务知情同意落地艰难,被迫知情同意普遍存在;最后,目前用户数据的授权撤销在人工智能服务中存在巨大挑战,需要监管和更高层的网络服务提供方联合提出更合理的政策与解决方案。

  谈及算法治理的现状,清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任梁正认为,当前国内对于算法治理的基本思路和框架都是清晰的,而分级分类精准治理的模式应当可以解决如何落实的问题。他还表示,需要明确的是,算法分级分类本身不是目标,而是要针对不同风险场景配备不同监管规则。

  中国政法大学数据法治研究院教授张凌寒则针对刚发布不久的《互联网信息服务深度合成管理规定》发表了演讲。她提到,从算法治理角度来说,深度合成管理规定与之前的算法推荐管理规定的思路有所不同,前者采用了一种“三位一体的数据与技术规范。具体来讲,由于深度合成技术的门槛较高,技术支持者也被纳入了监管范围内,比如深度合成服务提供者提供智能对话、合成人声、人脸生成、沉浸式拟真场景等服务,应当进行显著标识,这就将更重的责任落在了服务提供者身上,也将事后的追责转移到了技术的开发应用环节,实现了可问责可追溯。

  中国社科院科技和社会研究中心主任段伟文在发言中提到,算法治理需要构建可信任的算法认知,而这需要产业和消费者的共同努力:产业要努力提升算法精准性、透明度,减少偏见,减少歧视;消费者则需要提高数字素养,提升算法意识,加强在人机互动中自主性、控制感和协同意识。他认为,很多消费者缺乏对于算法的控制感,也缺乏自主性,因此对算法认知存在不信任。

  谈个人信息保护 检察公益诉讼将有3个转型

  在“个人信息保护专场”中,最高人民检察院第八检察厅副厅长邱景辉表示,检察公益诉讼在个人信息保护领域将有三个转型。一是推动个人信息数据安全治理模式从事后惩戒向事前预防转型,明确将个人信息数据安全纳入公共安全体系,实行更加严密的保护。二是从惩治个人信息犯罪向督促履行政府监管责任和企业主体责任转型,监督保障个人信息保护法等相关法律统一正确实施。三是从重点加强对特定群体的特别保护向全面保护个人信息权益转型,贯彻落实国家人权行动计划,加强对公民权利司法保护。

  香港金叶大律师事务所首席执业大律师、香港原个人资料私隐专员黄继儿的演讲主题为《香港数据出境限制》。他认为,与香港的数据跨境规则相比,内地的数据跨境监管更严、更紧。具体来说,内地的数据出境需要满足单独同意、数据安全审批、专业机构的保护认证等一系列要求,而香港的数据跨境并没有此类限制,且在豁免方面的规定相较内地更加细化。

  App是否可能通过技术“暗箱操作”,偷偷获取用户个人信息?论坛上,北京汉华飞天信安科技有限公司总经理彭根对App合规中常受关注的存储、关联启动和后台获取三个技术点进行了剖析。

  例如,App存储数据并不一定需要存储权限,若要对其他App的目录进行写入、删除等操作,则还需用户二次确认。彭根指出,用户只需做到简单一步——使用新版本的操作系统,就能基本保证App个人信息安全。他也建议开发者坚持告知与行为一致的原则,用更好的服务而不是技术来提高用户“保活率”。

  谈平台经济反垄断 走出中国式道路

  在平台经济反垄断专场,中国信通院政策与经济研究所监管研究部主任李强治介绍了《反不正当竞争法》修订案对“相对优势地位”概念的引入。他认为“相对优势地位”在平台经济监管中所能达到的效果,仍需更多实践和案例去证明。从海外执法来看,早早引入这一制度的德国也仅做出三个相关裁决。而在国内,在非市场支配地位的条件下,滥用相对优势地位带来的竞争损害是否会影响市场,不同学派之间还存在较大争议。

  暨南大学知识产权研究院副教授仲春则关注到,这两年的平台反垄断强监管,明确了企业合规方向。比如说“二选一”监管,从中小商户反馈来看较为正面,获得了相对广阔的发展空间。适时回顾这些监管动作的有效性,评估执法效果,有助于为常态化监管提供方向。

  清华大学长聘教授、经济学研究所副所长王勇从注意力的视角,论证了平台经济具有较高的可竞争性。他认为,未来监管更多考虑的是在不触及安全底线的基础上,尽可能推进平台经济活力。要保证平台经济活力,就需要平衡行政监管和市场竞争的作用,特别是要更加突出发挥市场竞争对平台经济发展的促进作用,因为竞争是活力的来源。

  针对平台经济常态化监管方面,王勇建议通过反不正当竞争手段治理市场乱象,审慎使用反垄断工具。当适用反垄断法界定相关市场时,不应把市场局限于平台垂直服务市场,还应考虑平台在整个注意力市场或者流量市场当中所处的地位和份额。他还指出,平台企业开展横向业务扩张是为了利用注意力资源产生的范围经济,因此监管对经营者集中审查时也应考虑注意力资源的特点。

  上海交通大学凯原法学院教授侯利阳提到,当前平台的两个面向——“既是运动员,又是裁判”分别指向平台的组织职能和经营职能。根据平台不同职能进行分类规制,使得平台各方面职能能够最优化,从而实现互联网资本健康发展。

  “对于平台的经营职能,应当慎用反垄断法来处理,尽量允许平台之间互相竞争;因为这些公司体量大体相当,且竞争过程中有可能产生创新的机制。至于平台组织职能方面,原则上应当允许,同时划出一部分禁止范围以保障平台中立性。”侯利阳说。

  在国务院反垄断委员会专家咨询组成员、北京大学法学院教授邓峰看来,反垄断法未来发展方向,“是统一、高标准、高水平市场的确立,反对行政和地方性垄断”,最终应当形成对中国版本的市场竞争哲学的理解。

  “我们究竟要的是哪一种市场?”邓峰表示,中国是大陆法体系国家,反垄断法的很多法条最早是借鉴欧盟模式,但在执法哲学上更多受美国影响。怎么样在大陆法系僵化监管和美国相对放任发展的模式下,走出中国式的道路?法院、检察院应该怎么做、反垄断局如何整合协调?

  “事实上,这些基础性的制度完善和讨论,最终将形成中国的特色。”

  A06-09版  总策划:戎明昌 刘江涛  执行策划:乔建  统筹:蒋琳 程姝雯  研究团队:南都个人信息保护研究中心

  采写:南都记者 李玲 黄莉玲 黄慧诗 樊文扬 孙朝 杨博雯 胡耕硕 刘嫚 王凡 实习生 程雨祺 梁丙鉴  视频:王子黎 卢皓炜 莫倩如 王森  设计:李蓓 张博  直播:王泉骄

手机看报
分享到:
返回奥一网 意见反馈