‌·

百度网盘被指人工审核风波背后:平台如何审核用户上传内容?

专家建议审核流程写入产品使用规则

来源:南方都市报     2022年08月23日        版次:GA12    作者:蒋琳

     有网友在短视频平台分享自己在“青团社兼职”应聘百度网盘线上审核员的经历,并晒出应聘成功的短信。 视频截图

  8月20日,百度网盘被质疑对用户照片进行人工审核一事又有新进展。在19日发布声明称不存在照片人工审核后,百度网盘再度强调上述回应,并表示已报警。针对网传招聘线上审核员的截图,百度网盘称纯属恶意造谣,其未委托任何机构招聘兼职人员。

  有技术专家对南都记者表示,从文字到照片再到视频,审核难度依次增加,完全不依赖人工的可能性依次减小。还有专家建议平台应在用户协议或网站明确告知内容审核方式,包括处理用户信息的目的、类型、处理方式及审查方式等,充分保障用户的知情权。

  事件始末

  被传人工审核照片,百度网盘已报警

  近日,有网友在短视频平台分享他在“青团社兼职”应聘百度网盘线上审核员的经历,并晒出应聘成功的短信。短视频的标题是“为什么女生都这么喜欢自拍 我赚个钱眼睛都快瞎了”,而且附上了大量打码照片。

  8月18日,网络作家@边想转发上述视频截图,发博称“我一直以为百度网盘是机器审核的,没想到是真人审核??审核人员还能随随便便把用户的照片截下来保存发到网上?”该条微博迅速引发热议,相关话题一度冲上热搜第一。

  此外,网友还找到另一个自称是百度网盘审核员的短视频截图,视频中的女子晒出疑似待审核的文件夹列表。两条短视频都明确晒出了疑似青团社发布的兼职招聘信息和录取短信。

  一个多小时后,百度网盘在官博针对此事发布声明,称”不存在所谓的照片人工审核,网络上关于百度网盘照片真人审核的内容是谣言。”并强调“在技术和产品等任何层面,均不存在‘人工审核用户照片’的情况”。

  根据@边想曝光的私信聊天记录,18日当晚,青团社微博私信其表示,“已在后台确认历史岗位中无类似岗位刊发历史”,称已投诉上述男性博主,视频也被下架。南都记者搜索发现,19日凌晨,这两位短视频博主已经无法通过网名搜索到。

  青团社公关于19日回应南都记者称,平台没有C2C岗位,昨晚亦已自查,未发布过相关岗位,网传信息疑为博主杜撰。青团社公关还透露,公司拟就此事发布相关声明。

  20日,百度网盘再发声明表示,“青团社招聘人工审核”截图纯属恶意造谣,已报警,并再度强调“百度网盘不存在照片人工审核”,也“并未委托任何机构招聘兼职人员”。“百度网盘拥有规范且严密的隐私管理机制和安全防御体系,有效保护用户隐私和数据安全。”

  南都记者调查发现,目前在青团社等招聘平台上均无法搜到与“网盘 审核”关键词相关的岗位信息。根据微信公众号“实习网”2018年百度网盘招募审核实习生的信息,工作内容主要是精准标注审核信息、帮助技术完善策略体系。

  平台内容审核

  哪些内容审核无需依靠人工?

  关于平台内容审核的要求可以在中央部委发布的多份文件中见到。

  比如2019年发布的《网络短视频平台管理规范》提出网络短视频平台上播出的所有短视频均应经内容审核后方可播出,包括节目的标题、简介、弹幕、评论等内容。2021年发布的《关于进一步压实网站平台信息内容管理主体责任的意见》就要求网站平台健全内容审核机制,包括完善人工审核制度,进一步扩大人工审核范围,细化审核标准,完善审核流程,确保审核质量。

  京衡律师事务所律师郑晶晶对南都记者表示,依据网络安全法的规定,平台方对用户发布的内容有信息安全和监管审查义务,有权限对其进行审查。清律律师事务所首席合伙人熊定中也曾提到,在云端提供存储空间的服务商具有审核上传到云端文件的法定义务和监管要求,并对违法文件进行处理,否则可能因放任违法和不良信息承担刑事后果。

  近年来,平台不断增强内容审核方面的投入。南都记者梳理公开资料发现,大多数平台采用的审核形式是机器+人工——对于用户上传的内容,人工智能(AI)会先进行程序审核,通过比对违规数据库对内容进行标注和过滤,如果难以判断,则会显示风险提醒,为人工审核提供辅助。

  按照目前的技术水平,平台的内容审核工作是否可以做到完全不借助人工?

  从审核难度的角度来看,北京汉华飞天信安科技有限公司总经理彭根表示,文字是最容易的,已经可以做到完全使用机器审核;照片也可以使用机器审核,但是具有一定的难度;而视频实际是由多张图片组合而成,机器审核多是抽样其中的图片进行审核,识别难度显著上升。

  “难度越大,机器可以独立完成审核的可能性就越小。”他表示,平台完全有技术能力“看见”用户上传的每一份文件,而且鉴于目前的AI能力,“不太可能”完全由机器审核用户上传的所有内容。

  他举例说,有一个鉴黄师的职业,专门鉴定淫秽色情光碟,这么多年都还没办法完全通过技术的手段替代。“我相信网盘的AI也应该没有这么强大,还是有人工的参与在里面。具体是什么情况下参与,那可能只有公司自己知道了。”

  用户权利保护

  专家:建议平台明确告知用户内容审核方式

  值得指出的是,熊定中认为,即使平台采用了人工审核,也不一定侵犯用户隐私,这取决于具体情况。比如用户因AI误判而请求解封,这样的情况下人工审核是合理的,因为复核的行为是基于用户的申请才做出的。此外,网盘文件如果已经被分享给他人,就不属于隐私保护的范畴,人工审核也不存在问题。

  他还表示,目前的AI审核不会导致隐私权的侵害,因此更多是知情权的问题——百度网盘至少应当把整个审核流程写进平台产品的使用规则里。“他们到底怎么审核,基于什么法律法规进行审核、满足法定义务。审核有的是机器算法,有的是人工,哪种情况下人工需要介入要讲清楚。”

  不过,南都记者以“审核”为关键词搜索百度网盘的隐私政策和服务协议,均未发现相关内容。

  郑晶晶告诉南都记者,平台应该在用户协议或网站明确告知内容审核方式,包括处理用户信息的目的、类型、处理方式及审查方式等,充分保障用户的知情权。如果写明是机器审核,实际上却采取人工审核,不仅违反了用户协议,也侵犯了用户的知情权。

  “在机器审核无法判断的情况下,采用人工审核并不违法。”但她同时强调,审核人员需要对信息泄露承担相应的责任。“作为网络服务提供者,如果未能遵守正当、必要等原则,违反个人信息保护法的规定,非必要收集或违规处理用户信息,泄露用户个人信息或隐私,用户可以向网信办等监管部门进行投诉,也可以通过法律途径进行维权。”

  关于使用网盘的用户如何采取措施以保证自己的隐私不被泄露,彭根建议,在上传到网盘之前,自己先采取保护文件的技术手段。“比如最简单的,用压缩软件打个包,用加密软件加密,用密文的方式传上去,这样人工审核也打不开。”

  采写:实习生 程雨祺 韩艳燕 

  南都记者 蒋琳

手机看报
分享到:
返回奥一网 意见反馈