‌·

中国人民大学金融科技研究所宋科:

要识别应对数据应用中的歧视和偏见

来源:南方都市报     2022年08月08日        版次:GA07    作者:林芯芯

中国人民大学金融科技研究所宋科

  金融科技催生了丰富的新金融产品与服务,以及数字社会、智能社会、算法社会等概念,同时也带来更多复杂的伦理问题。

  但相较于“监管沙盒”应用较为成熟的国家,我国“金融科技创新监管试点”仍存在可优化之处,包括试点的行业范围有待扩大、试点产品类型有待丰富、试点管理机构效能有待提升。

  ——中国人民大学金融科技研究所宋科

  随着大数据、云计算、人工智能等新技术的兴起,金融机构的数据共享不断加强,围绕数据的泄露滥用、违规交易等风险也随之涌现。在金融机构数字化转型浪潮中,如何在深化数据综合应用的同时保障数据安全?当科技公司凭借大数据及算法优势介入金融业务,会出现哪些问题?立法和监管呈现什么理念?随着技术发展,在可预见的未来还会出现哪些监管要点?中国人民大学金融科技研究所执行所长、财政金融学院党委副书记、国际货币研究所副所长宋科接受了南都专访。

  01

  安全保障

  加强对数据集中金融机构的网络安全审查

  南都:在金融机构数字化转型过程中,金融业数据要素市场发展如何?如何在深化数据综合应用的同时保障数据安全?

  宋科:目前,我国已出台了《数据安全法》《个人信息保护法》等相关法律保障数据应用与数据安全,中国人民银行也已经发布了《个人金融信息保护技术规范》《金融数据安全》《数据安全分级指南》等多项标准,多方安全计算、联邦学习等关键技术也已经在金融场景中有所应用。“基于隐私计算技术的银行卡营销服务”等多个数据融合技术应用项目成功入选中国人民银行金融科技创新监管工具。

  基于此,要继续完善金融行业规范,健全数据要素的相关制度,巩固数据要素改革成果。加大对侵犯隐私、违规采数、非法数据买卖等违法违规行为的惩处以及宣传力度。提高数据安全保护水平,加强对数据集中金融机构的网络安全审查,保障金融系统数据安全。提升数据质量,增强数据安全保障能力,坚持需求和问题导向,加强多方安全计算、联邦学习等技术的应用探索,从而稳固地提高数据要素融合应用能力。

  02

  伦理挑战

  数据使用、数据处置、算法黑箱、应用垄断

  金融科技带来的挑战

  南都:在金融科技领域,有哪些伦理挑战值得关注?

  宋科:金融科技催生了丰富的新金融产品与服务,以及数字社会、智能社会、算法社会等概念,同时也带来更多复杂的伦理问题。

  一是数据的规范使用问题,目前部分产品标榜“精准定制”“个性推荐”,但实际是过分采集用户数据,进行过度营销、诱导消费,侵害金融消费者合法权益。

  二是数据处置问题,金融机构如果在运营过程中积累了大量的用户数据,却在不进行脱敏处理的情况下将所掌握的数据用于利益交换,或在业务周转不畅时低价售卖数据资源,将侵害用户对数据的处置权。

  三是算法黑箱问题,由于人工智能目前的可解释性仍不完善,机构如果利用这一特点隐藏定价规则,或利用“竞价排名”方式进行信息推荐,以算法优势排除和限制市场竞争、阻碍消费者自主选择,会导致“劣币驱逐良币”。

  四是应用垄断问题,由于数字化打破了地区的限制,且具有一定的技术门槛,金融机构如果利用网络效应进行不公平竞争,利用自身技术优势和数据优势打压竞争者,会让用户形成依赖,甚至引发“大而不能倒”风险。

  南都:金融科技公司凭借大数据及算法优势介入金融业务,目前针对其中涌现的算法歧视问题,立法存在什么空白?监管呈现什么样的理念和趋势?

  宋科:从实际立法来看,要识别和应对数据应用中的歧视和偏见,首先要明确数据的适用范围,工信部2021年印发了《常见类型移动互联网应用程序必要个人信息范围规定》,明确了常见类型App的必要个人信息范围,运营者不得因用户不同意收集非必要个人信息,而拒绝用户使用App基本功能服务。要保证算法的公开透明,我国在《关于加强互联网信息服务算法综合治理的指导意见》中提出要“引导算法应用公平公正、透明可释,充分保障网民合法权益”。但是,目前对于算法公开和数据规范使用的立法还不完善,仍需要更明确的法律规范。

  对于监管而言,要促进算法健康、有序、繁荣发展,监管算法使用并不是阻碍新算法,而是让监管层对算法放心、让用户对算法有信心。一方面,要打压恶意算法,减少不正当竞争的获利空间,从而推动优秀算法的发展,保护算法知识产权,强化自研算法的部署和推广,提升我国算法的核心竞争力。另一方面,要坚持权益保障,引导算法应用公平公正、透明可释,充分保障网民合法权益,保障金融科技背景下的数据安全与合理使用。

  03

  监管试点

  监管试点行业范围有待扩大

  未来要协调不同行业沙盒

  南都:在金融业数据治理过程中,金融数据监管目前主要面临着哪些问题?

  宋科:首先,由于金融科技的发展,金融机构及科技公司获取数据的维度更丰富,而很多数据在原有的统计体系中并未有明确规定,监管部门在开展监管时也不能及时、全面地获取业务相关数据,导致金融数据监管仍然没有达到预期效果。例如,比特币等加密货币为代表的去中心化金融业务使得许多金融活动绕开了传统清算体系,导致数据采集较为困难。

  其次,金融数据中涉及多种隐私数据,各监管部门也面临是否对相关数据具有管辖权和提取权的法律问题,数据的过度提取可能侵害消费者隐私。目前,在监管中往往采用“最小可用原则”,每个部门仅掌握业务范围内必要的数据,但金融科技创新的金融活动可能跨越多个行业,且存在不同性质金融活动的交融、嵌套,而监管部门的数据并没有有效打通,导致监管滞后。

  最后,随着贸易金融等跨境业务不断丰富,金融数据监管还面临协调不同司法管辖区法规的问题,进而对协调双边或多边金融科技监管规则,减少跨国监管套利、监管空白提出更高要求。

  南都:在推动数字金融发展的过程中,如何平衡创新驱动和合规发展?在可预见的未来还会出现哪些监管要点?

  宋科:数字金融发展过程中,监管沙盒发展为平衡创新驱动和合规发展做出了有益探索。我国已推出基于本土特色、参照国际经验的中国金融科技创新监管工具,逐渐呈现出通过“金融科技应用试点”和“金融科技创新监管试点”两类试点驱动金融科技及其监管的态势。北京、上海、成都、广州、深圳、重庆、雄安、杭州、苏州9个城市已有90个项目进入监管试点。随着试点城市和应用项目的陆续落地,中国版“监管沙盒”正持续扩容。作为金融数字化和金融科技创新的重要协同机制,中国版“监管沙盒”在提升监管质效、促进金融创新、改善金融服务等方面取得良好成效。

  从监管试点的实际运行情况来看,不固定试点时间、选取部分城市开展试点、采用“刚性底线加柔性边界”并引入社会监督和行业自律的立体监管方式、测试规则偏重业务普惠性等方面的独特做法,符合我国地区差异显著的国情和注重风险防范、普惠金融的金融科技发展战略。但相较于“监管沙盒”应用较为成熟的国家,我国“金融科技创新监管试点”仍存在可优化之处,包括试点的行业范围有待扩大、试点产品类型有待丰富、试点管理机构效能有待提升。未来在进一步推动监管试点工作当中,要重点处理好主体包容、行业引导、顶层设计等问题,进一步统筹协调不同行业沙盒,防止监管重叠或空白。

  采写:南都记者 林芯芯

手机看报
分享到:
返回奥一网 意见反馈