‌·

禁止算法控制热搜

网信办拟出新规,有望破解“算法黑箱”

来源:南方都市报     2021年08月29日        版次:GA08    作者:李娅宁 陈养凯 吴佳灵 徐冰倩

  有业内人士表示,在资本推动下,在网络直播或带货直播问题上,部分视频平台瞄准“流量就是收益”的盈利模式,算法会尽量多地给用户推送同类型作品。

8月27日上午,国家网信办发布关于《互联网信息服务算法推荐管理规定(征求意见稿)》通知,对诱导用户沉迷的算法模型、流量造假、舆论引导、大数据杀熟、未成年人模式以及劳动者工作调度等问题做出了相应规定。

《规定》明确,算法推荐服务提供者应公示算法服务原理并向用户提供不针对其个人特征的选项。

  算法推荐规则应透明并可关闭

  《规定》所指的算法推荐技术,包括了应用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等向用户提供信息内容的算法技术。

  《规定》的第十二条和第十四条明确,算法推荐服务提供者应当优化检索、排序、选择、推送、展示等规则的透明度和可解释性,并以显著方式告知用户其提供算法推荐服务的情况;另外,算法推荐服务提供者应以适当方式公示算法推荐服务的基本原理、目的意图、运行机制等。

  此前,各平台算法机制不透明已经引起了消费者密集发声,要求平台运营商公布算法的基本原理及运行机制。有专家援引于2015年5月生效的欧盟《通用数据保护条例》(GDPR),呼吁数据处理者承担算法逻辑解释的义务,使算法推送过程公平透明。

  在今年全国两会上,全国政协委员、启明星辰信息技术集团股份有限公司首席执行官严望佳认为,“算法黑箱”可能潜藏未知的安全隐患,算法透明性有待提高。

  中国社科院研究员段伟文说,《规定》的实施能够促使行业和企业在监管及外在压力下对算法问题做出评估,寻求相应解决方案,并根据不同场景做出算法设计,并推动行业自律的形成。

  除了告知义务外,《规定》也向苦于个性化推荐的网友们提供了“退场券”。

  第十五条明确,算法推荐服务提供者应当向用户提供不针对其个人特征的选项,或者向用户提供便捷的关闭算法推荐服务的选项,并向用户提供选择、修改或者删除用于算法推荐服务的用户标签的功能。

  提供便捷关闭算法推荐服务的规定,其实与将于今年11月开始实行的《中华人民共和国个人信息保护法》前后呼应。个人信息保护法第二十四条规定,个人信息处理者在通过自动化决策方式向个人进行信息推送、商业营销,应当同时提供不针对其个人特征的选项,或者向个人提供便捷的拒绝方式。

  “花钱买流量买热搜”有了明确规制

  《规定》对网友关注的“花钱买流量买热搜”等现象也有了明确规制。

  第十三条明确,算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号,或者虚假点赞、评论、转发、网页导航等,实施流量造假、流量劫持;不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现,实施自我优待、不正当竞争、影响网络舆论或者规避监管。

  8月23日,微博发布了微博热搜管理规则及算法,包括“算法机制会计算所有热词的综合热度,包括搜索量、发博量、互动量、阅读量等数据指标,每分钟计算一次,取前50名展示”、“榜单算法中包含严格的排水军和反垃圾机制,以确保公正客观”等。

  清华大学公共管理学院教授梁正表示,《规定》中的这一条款已经不局限于运用算法提供信息的层面。近来,运用算法进行流量造假、票房造假、直播带货数额造假等现象层出不穷,这已经进入市场公平或社会公平的范畴,《规定》的出台对平台进行规制,有望遏制这些乱象。

  《规定》还提到未成年人保护相关内容,算法推荐服务提供者不得向未成年人用户推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息内容,不得利用算法推荐服务诱导未成年人沉迷网络。

  焦点

  舆论属性平台需履行备案手续

  《规定》特别强调了对“具有舆论属性或社会动员能力”的算法推荐服务的监管。这类服务应当在提供服务之日起十个工作日内履行备案手续,并且应当按照国家有关规定开展安全评估。

  梁正表示,算法备案制度在近几年多次被提出,若意见稿通过,这将是第一次对算法备案做出明确规定。不过,在实际操作层面,可能会出现一些特殊情况,例如,有些算法可能是自动生成的,需要考虑备案来不来得及。因此,接下来还要具体做细分,灵活对待。

  为什么要对具有舆论属性和社会组织动员能力的算法服务进行更严格的监管?

  梁正认为,算法新闻、个性化推荐的平台,现在是内容生态治理的重点,也已经有相关配套文件出台。“内容平台的算法推荐,是不是带有偏见,是不是投喂式的,这些都需要关注。算法推荐信息虽然看起来不直接涉及到个人权益,但其实它对社会的影响是深远的。”

  段伟文表示,《规定》强调“舆论属性和社会组织动员能力”,主要是从社会安全与稳定的角度出发,对于一些社交媒体易造成舆论撕裂的现状,进行了规制。他认为,一方面,可以通过平台来加强反映主流价值观的高质量信息的传播,另一方面,在具体的问题上,《规定》有一些刚性的内容,在算法的具体问题上,通过监管部门向企业形成监管压力,规范算法推荐服务平台。

手机看报
分享到:
返回奥一网 意见反馈