圆桌讨论现场,与会专家展开热烈讨论。
个人信息保护立法后走向何方?国内“人脸识别第一案”因何发起?互联网反垄断监管呼声为何高涨?昨日,2020南都智库产品发布周第二天,由南都个人信息保护研究中心举办的“啄木鸟数据治理论坛”在北京召开。
中央网信办网络安全协调局副处长梁立军在致辞中表示,互联网时代,数据处理活动的泛在化、自动化和智能化,如果缺乏有效的引导和必要的监管,可能带来安全隐患。“所以说要高度重视数据安全的相关问题,科学理性地采取措施,保障数据活动始终朝着造福人类的方向发展。”梁立军说。
当天论坛分为“个人信息保护专场”“数字经济与反垄断专场”“人工智能伦理专场”。针对这三个主题,南都个人信息保护研究中心发布了三份报告——《个人信息安全年度报告》《互联网平台竞争与垄断观察报告》《移动端人脸识别应用合规报告》。
作为国内最早提倡并研究个人信息保护立法的专家学者之一,中国社科院法学研究所副所长周汉华以“《个人信息保护法》与中国式立法智慧”为主题,介绍了立法中需要解决的现实问题。
App专项治理工作组专家何延哲则指出,App一直在想数据变现,却忽略了数据应该是为了给人们提供更优质的服务,只有转变成这样的观念,才能变得更好用、更安全,才能更有前景。
作为“国内人脸识别第一案”当事人,浙江理工大学法政学院特聘副教授、网络法研究所副所长郭兵分享了拒绝动物园刷脸的经历。他说案件的关注度远超乎想象,“不仅是周围人,公众也挺在乎自己的脸”。
“因为人脸只有一张。”最高检察院技术信息研究中心副主任贺德银谈道,人脸信息不像手机号、电子邮箱、账号密码那样可以修改;也不像指纹那样需要主动操作;人脸本身公开外露,在无感的情况下就能被采集。
此外数据作为一种生产资源,掌握大量数据的平台竞争优势明显。凭借雄厚资本、海量数据、精准算法,大型平台企业不断延伸触角,形成“赢者通吃,强者愈强”的局面,由此也引发了竞争担忧。
国务院反垄断委员会专家咨询组前成员、深圳大学特聘教授王晓晔认为,数字经济给社会带来了巨大福利。相比传统行业,互联网平台具有网络效应、规模经济和零边际成本等特征,这使得大平台很容易成长为“数字巨无霸”。
“数字经济监管不单只有反垄断,但毫无疑问,反垄断是监管的核心内容。”王晓晔补充道。
当天论坛上,南开大学法学院教授许光耀结合南都反垄断课题组报告,对“大数据杀熟”“二选一”等热点问题作出解析。在他看来,对于新型互联网垄断行为仍可用反垄断法规制。
据悉,“啄木鸟数据治理论坛”已连续举办四年。南都个人信息保护研究中心表示,未来对于数字经济治理,南都将持续发声。特别希望像啄木鸟一样,发现并消除数字经济发展中出现的问题,与行业和谐共生,也希望能联合各界的专业人士,一起来助力企业数据治理措施改善,为相关部门的立法与监管提供研究支持。
专家热议大数据杀熟与人脸识别滥用: 算法歧视、技术滥用 新挑战须协同应对
“2020啄木鸟数据治理论坛”的圆桌论坛环节,来自学界和企业的嘉宾围绕“从大数据杀熟到人脸识别滥用,数据治理新挑战”的主题展开讨论。
谈人脸识别
线下应用挑战传统的个人信息保护方式
今年11月,南方都市报刊发关于售楼处人脸识别的调查报道,引发社会关注。记者调查发现,售楼处人脸识别的主要用途是判断购房者由哪个销售人员介绍,进而确定成交后的佣金应该发给谁。同一套房屋,购房者从不同渠道购入,差价在几万元到几十万元不等。
这一案例,反映了人脸识别应用的哪些问题?在22日的论坛上,与会专家就此进行了探讨。
中国信息通信研究院安全研究所数据安全研究部研究员葛鑫表示,从个人信息保护的角度看,售楼处人脸识别的曝光就如同“撕开了一道口子”,让人们意识到大量线下场景也在利用数字技术收集个人信息。而在此之前,监管部门和民众的关注重点是App等线上应用。
“当人脸识别进入线下场景的时候,我们传统的数据安全思考逻辑,可能都要进行调整。”葛鑫说。她认为,线下人脸识别的应用方并不是传统意义上的“个人信息控制者”。很多应用方其实采购的是第三方的技术和设备,应用方本身没有能力来完成数据安全的保障。如何推动这些应用方落实数据安全保障的义务,应该是之后需要重点考虑的问题。
瑞莱智慧公司CEO田天认为,购房者因为人脸识别而遭遇买房差价,其实与“大数据杀熟”类似。事实上,包括人脸识别在内,各种类型的人工智能应用都需要解决算法不完善导致的算法歧视问题。目前,国内已经有一些厂商尝试展开算法公平性检测。“对待不同的人群和使用者,算法是不是一视同仁?这是我们需要从技术方面解决的问题。”田天说。
中国社会科学院大学竞争法研究中心执行主任、副教授韩伟认为,规范人脸识别应用,还需要强有力的法律规制。但在规制的同时,也需要考虑一些商业场景下,技术带来的福利改善、效率提升作用。
“现在各种类型厂商都在应用人脸识别,有的应用甚至可以被一张静态照片破解。提高技术应用门槛,要求它们达到一定标准才能上市,可以有效解决一部分的滥用问题。”小米集团安全与隐私委员会副主席、法务部数据合规总监朱玲凤说。
谈数据治理
社会各界要协同构建新沟通与治理机制
从大数据杀熟到人脸识别滥用,如何应对数据治理新挑战?
中国人民大学法学院副教授、未来法治研究院研究员郭锐表示,传统的消费者保护法和民法规则已不适应新技术的监管需求,社会各方需要寻找全新的管制方式。而受到新技术影响的每一个人,都应该进行“有意义的参与”。他特别谈到,新技术的滥用可能伤害到社会中的每一个人,但是更容易伤害的是弱势群体。在这种情况下,社会各界需要构建合适的沟通与治理机制,实现对弱势群体的保护。
“不管是人脸信息还是其他个人信息,用户本身是非常关键的参与方。但眼下,用户作为数据的生产者和所有者并没有直接获取收益,反而成为了受害者,这是矛盾的事情。”田天指出,要解决大数据杀熟等问题,企业可以考虑重新调节技术应用中的收益分配方式,让用户也能够通过技术应用获得收益,从而实现“多方共赢”。
朱玲凤认为,具体到个人信息保护而言,个人信息合规工作和企业的商业发展其实是可以实现结合的,用户隐私的完整性和业务功能的完整性可以同时存在。“我们不要做零和游戏,要做正和游戏。时刻记住以用户为中心,企业提供的服务是给用户的,用户说好才是好的。”她说。
韩伟关注到政府和消费者层面。他认为对市场监管而言,科技赋能很重要。依靠技术更好地主动监管,而非仅仅依靠投诉。对消费者来说,要强化其隐私保护意识,比如借助比价工具等智能助理去主动或者有意对抗大数据杀熟。“但这前提是我们要在乎隐私,南都举办这样的活动本身也是在培养消费者隐私素养。”
韩伟注意到,随着数字经济的发展,竞争规则、数据规则和消费者保护规则存在竞合趋势,大数据“杀熟”就是其中典型代表。他提出疑问——“我们需要考虑这种行为是否产生排除、限制竞争效果,还是只需考虑‘杀熟’是针对消费者的一种剥削性价格歧视?”
在他看来,用反垄断法来规制杀熟行为,相对来说是更麻烦的事情。通过消费者保护规则以及数据规则可能更为高效,比如关注消费者保护规则的完善与落实,以及个人信息保护法出台后的有力实施。
出品:南都个人信息保护研究中心
统筹:程姝雯 蒋琳
采写:南都记者李玲 冯群星 李慧琪 黄莉玲 潘颖欣 孙朝 刘嫚 蒋小天 马嘉璐 林方舟 南都个人信息保护研究中心研究员 尤一炜 黄慧诗 石莹
设计:林军明 邓慧文 欧阳静
直播:林嘉柳
摄影:莫倩如 王森 张海清