‌·

南都人工智能伦理课题组发布《人脸识别落地场景观察报告(2019年)》

使用人脸识别 超七成受访者担心信息泄露

来源:南方都市报     2019年12月06日        版次:GA14    作者:蒋琳 冯群星 李玲 陈志芳 李慧琪 黄莉玲 潘颖欣

报告更多内容 请扫码阅读

昨日,南都人工智能伦理课题组发布《人脸识别落地场景观察报告(2019年)》(以下简称《报告》),展示了公众使用人脸识别时遇到的问题与担忧。报告显示,在个人信息泄露频发的态势下,超过七成的民众对网络运营者的安全保障能力存有疑问,担心人脸信息泄露。

  缺乏隐私政策成常态

当前,监管和执法部门对个人信息保护十分重视,随着净网行动、App违法违规收集使用个人信息专项治理行动等各类治理的推进,网络空间内的个人信息安全情况正在逐步改善,隐私政策也成为App的标配。

一般而言,网络运营者会在隐私政策中明确其收集的个人信息的类型、范围、约束和管理准则、安全措施等。这相当于为用户提供了一份承诺和保障。然而,人脸识别应用涉及到线上线下,技术先行、法律滞后,带来了监管的灰色地带。

据南都研究员介绍,他们在实测中发现,许多场景的人脸识别设备没有提供隐私政策或用户协议,公众无法在知情同意的前提下使用。以厕纸机为例,研究员进入摄像头范围后就被刷脸,关于人脸数据怎样存储、是否能删除等关键问题,机器没有进行任何说明。而在一些设置了人脸识别摄像头的商场内,消费者甚至不知道自己会被拍摄。

报告数据显示,在公租房、交通、校园、商场等场景下,都各有半数以上的受访者表示没有签署隐私政策或不清楚是否签订了隐私政策。这意味着,一旦发生信息泄露,用户难以要求网络运营者提供合理的处置或救济措施。

此外,四成以上的受访者不知道自己的人脸数据怎样被储存。在“是否希望系统运营者为自己提供查看或删除人脸数据的渠道”这一问题下,83.37%的受访者选择了“是”,呈现出压倒性的占比。

报告特别指出,人脸识别产品或服务的厂商在宣传时常常主打“无感”,即用户没有感知。对于数据的收集者和使用者来说,“无感”也许是件好事,但对于用户来说,这无疑是一种技术不公。在商业场景下,人脸识别系统的运营者应该探索设置有效的“勾选同意”方式,征得用户的知情同意。

  公众对人脸识别心存隐忧

报告显示,在各个场景下,认为有了人脸识别更安全的受访者均占六成左右。不过,在个人信息泄露频发的态势下,公众对人脸识别也存在隐忧。有3000多位受访者列举了担心的理由,包括人脸信息公开无法加密、人脸信息绑定了一系列与金钱有关的账户、不确定数据管理者是否能合法地收集使用、担心系统技术不完善被黑产盗用等。

人脸识别的信息泄露问题并非危言耸听,此前已有案例。在有关的安全隐患中,79.31%的受访者担心系统运营者安全能力欠缺导致人脸信息泄露,65.17%的人担心换脸视频等网络虚假信息增多,49.57%的人担心不法分子利用伪造信息实施诈骗或盗刷。

如何规范人脸识别应用?70.49%的受访者认为应设立专门的监管机构,60.72%的受访者认为要加强相关立法,还有43.7%的受访者认为应限制人脸识别的使用场景。

就此,报告建议,政府不妨对不同人脸识别的应用场景进行利益衡量后,确定人脸识别应用的使用必要性和使用范围。一方面,通过制定法律法规和国家标准,明确企业的从业资质与行为规范,设置准入场景、准入条件,包括“黑名单”“白名单”“推荐名单”;另一方面,制定完善的问责制度,明确处罚构成要件、处罚标准,从而最大程度地防范人脸识别技术的滥用。

  案例

  北京部分教育机构利用人脸识别监测上课抬头率

今年以来,部分人脸识别进课堂的案例引发了隐私争议。南都记者发现,不少培训机构和学校正利用人脸识别、人体识别等AI技术,监测学生、教师的上课情况,进行情绪识别和行为分析等。

日前,南都记者实地走访了北京市第二十中学、北京大学和北京化工大学,发现上述学校均安装了人脸识别门禁,学生、教职人员等可刷脸通过。

据了解,在北京市第二十中学,当学生刷脸出入大门时,后台系统会发送出入时间到家长手机上。另外,学生还能通过刷脸,在食堂取餐、在小卖部购物。多位北京市第二十中学的学生告诉南都记者,刷脸方便快捷,避免了丢校园卡的困扰。

除了上述提及的门禁、支付等功能,部分学校也将人脸识别等技术应用到教学场景中。以北京化工大学为例,据了解,该校于2017年在昌平校区建设了智慧校园,通过教室的人脸识别摄像头,其后台系统能检测出学生的出勤率。

此外,该系统还能检测抬头率、前排就座率。北京化工大学人脸识别设备提供方的市场部职员王女士(化名)表示,老师还能通过系统的高清抓拍图片,看到学生低头在做什么。

为何要检测抬头率和前排就座率?有学生反映,抬头率是统计全班的抬头和低头次数,监测老师的课程质量,如果低头次数过多,说明无法吸引学生听课。至于前排就座率,王女士表示能在一定程度上反映课程的受欢迎程度。

有学生表示反感,认为“有时候我可能有自己的想法、打算和安排,所以很讨厌这个设备”。此外,南都记者注意到,有部分北化工学生表示他们并不知道存在这样的系统,其他知道的学生则是老师或辅导员告知的,这意味着学校在安装人脸识别设备前,并没有征得每一位学生的“知情同意”。

除了部分学校,不少教育机构也宣称加入了人脸识别、人体识别等AI技术,如上海麦奇科技教育、北京儒博科技、清帆科技等。

北京儒博科技有限公司的工作人员告诉南都记者,在其智慧课堂中,通过人脸识别摄像头,“能捕捉孩子在听说读写时的注意力、面部表情和仪态等”,借此帮助老师了解孩子情况,调整上课状态,并提供给家长“孩子的专注力曲线图”。

上海麦奇科技教育培训有限公司的工作人员告诉南都记者,麦奇科技教育也监测老师上课时的姿态,比如“老师上课坐姿是否标准”、“目光是否注视着屏幕”等。

尽管上述机构试图利用AI技术,“驱动教育变革”,但在实际应用中却遇到了“难题”——有的老师根本不看。一名教育机构的老师告诉南都记者,平常在一对一上课时,“很少看(AI提示),(自己)会直接关注孩子的面部表情,关注孩子跟你的互动、回答问题的速度等”。

  专家说法

  面部情绪识别技术尚未成熟

人脸识别、人体识别等人工智能技术是否能真实反映出学生、老师的上课状态?又是否能提升上课质量?多位专家提出了质疑。

从技术层面上,面部的情绪识别似乎更多是“噱头”。深圳大学计算机视觉研究所所长沈琳琳告诉南都记者,目前通过人脸识别来判断情绪的技术尚不成熟,准确率不高。而通过人体的行为识别来分析抬头率、坐姿和视线集中等还是有较高的准确率,但如果这些数据是用来衡量学生的成绩和表现,将学生当成流水线上的产品,可能会影响学生的个性化和创新性。

即使是通过较高准确率的行为分析来评估学生、教师的上课状态,上海交通大学人文学院科学史与科学哲学系副教授闫宏秀也提出质疑:假设监控的初衷是为了提高课堂效率,那么实际上是否能达到这样的效果?同时,被存储的数据归属、携带、转让、挖掘等过程中同样隐藏着伦理问题。如,数据画像是否可以作为对一个人评判的依据,这样做是否公平?

中国人民大学新闻传播学院讲师董晨宇也认为,在知情同意的基础上,对学生、老师的数据收集的用途和安全性有没有保障?技术监测是相对僵硬的,而教学是情境化的,比如什么样的仪态是规范的?不过,在解决知情同意、数据保护等问题后,如果是非具体到个人的课堂整体抬头率分析,尚可成为评估教学情况的辅助标准。

中国人民大学法学院副教授丁晓东认为,人脸识别可以在某些安全场景中合理运用,但如果过度使用和依赖人脸识别,特别是用人脸识别承担教育与监督功能,有可能适得其反。在对学生进行监督和考核时,应谨慎应用人脸识别。

手机看报
分享到:
返回奥一网 意见反馈