辛小天、周杨：算法须“讲理”——简评《互联网信息服务算法推荐管理规定》

一、算法的概念及其乱象

2021年12月31日，国家网信办会同工信部、公安部、市场监管总局出台《互联网信息服务算法推荐管理规定》（以下简称“《算法推荐管理规定》或《规定》”）。

“算法”是一个计算机学科领域的概念，用来指代人类设计出的用于完成某项特定任务的计算机指令，是“一种有限、确定、有效并适合用计算机程序来实现的解决问题的方法，是计算机科学的基础1”。在数字经济时代，算法广泛应用于广告推荐、信息检索、调度决策以及人工智能场景，可以说，算法技术决定了海量数据利用的深度和功效，是数据利用最为广泛和核心的工具。2020年8月《最高人民法院关于审理侵犯商业秘密民事案件适用法律若干问题的规定》将算法列入了技术信息范畴，使其正式成为我国商业秘密法所保护的对象。这一司法解释充分反映了算法技术在数字经济时代的重要生产力意义。

算法利用的基础是该设定的计算机程序对数据的处理方式和处理结果。受限于技术的有限性，算法技术不可避免的在数据的收集、处理等方面存在局限性。例如，数据采集与捕获的平台单一性和数据失衡、数据处理中的不平等复制、算法分析中的偏见与歧视、数据应用决策中的不平等性等问题，以及耳熟能详的“算法黑箱”“算法歧视”和“算法茧房”等负面效应，引发了广泛的担忧。如何评价和管理算法，对于算法本身的规制讨论成为了时代性的命题。

二、算法治理的国际探索

01、欧盟[2]

作为立法水平较高的区域，欧盟率先对算法作出规制。2018年5月，欧盟施行《通用数据保护条例》，对算法针对个人数据收集、检索、使用等处理行为进行严格规制，并首次在立法中提出和创设了“算法解释权”，指当数据主体认为算法决策得出的结果与自己预期不相符合时，有要求对算法设计以及运行（即数据的分析处理过程）进行解释的权利。2019年4月，欧洲议会研究服务机构发布《算法监管框架》，就算法及其在自动化决策系统中的应用快速增长提出了全面的监管框架，并就具体落实欧盟人工智能战略提出的“建立适当的伦理和法律框架”要求提出政策建议与规制路径。

2021年4月，欧盟公布《关于“欧洲议会和理事会条例：制定人工智能的统一规则（人工智能法案）并修订某些联盟立法”的提案》，该提案规定了平台企业和政府应如何合理规范使用平台算法，是迄今为止在该方面涉及范围最广泛的条例之一。其框架由基于风险的方法组成，该方法将平台算法的使用分为不可接受的风险、高风险或低风险任务。其中，针对何为高风险任务，该框架作出了颇具启发性的列举式规定，包括涉及到自然人的生物识别和分类的，关键基础设施的运作和管理的，教育、就业、工人管理的，享受基本的私人服务和公共服务及福利的，涉及执法部门的，涉及司法行政和民主进程的等等。

02、其他国家和地区

相对而言，发达国家更先注意到算法规制的必要性。2018年4月，美国“现代AI”研究院提出了算法影响评价的实践框架。2019年，美国《算法问责法案》公布，该法案详细指导组织如何评价算法及其应用系统的风险并施以恰当保护。2019年2月，加拿大政府出台《关于自动决策的指令》，第6.1条及附件B、附件C对算法影响评价作出系统规定。2020年7月，新西兰政府出台的《算法章程》规定政府机构在采用可能对社会大众产生重大影响的算法技术之前理应提交算法评价报告(Algorithm Assessment Report)。除了政府公共事务领域内算法影响评价制度的倡议和实践，学者也指出私人企业的算法设计和社会化应用也需要影响评价制度予以监管。

三、算法治理的中国化方案

承上所言，作为一类技术，受限于技术的限制和技术的不受限制，算法具有天生的两面性。作为正面而言，理想的正义的算法应当在法治之下秉持平等、尊严与自由价值；但就反面来说，算法的非正义一面将导致上述“算法黑箱”“算法歧视”和“算法茧房”等问题频出。“推进正义和消减非正义是正义事业的两个维度[3]”—— 《算法推荐管理规定》的治理方略亦分别从“推进”和“消减”，“应当”和“不得”两个方面对算法推荐服务提供者进行了规制。

需要特别指出的是，《规定》的治理策略并未集中于算法本身，而是从算法的落地层面，即应用和服务层面入手展开监管。《规定》第二条开宗明义地将规定的适用范围确定为“在中华人民共和国境内应用算法推荐技术提供互联网信息服务”的情形，并进一步将“算法推荐技术”定义为“利用生成合成类（如换脸）、个性化推送类（如广告）、排序精选类（如新闻头条文章）、检索过滤类（如语义检索理解）、调度决策类（如网约车）等算法技术向用户提供信息。这一监管方式巧妙避开了法律对技术的跨域治理弱点，从算法应用导致的人的权益风险、社会影响和评价入手，与欧美国家对算法的治理思路不谋而合。

01、新增变化

与2021年8月发布的征求意见稿（后附对比）相比，《规定》主要新增了如下内容：

- 监管工作职能分配：“国家网信部门负责统筹协调全国算法推荐服务的治理和相关监督管理工作。国务院电信、公安、市场监管等有关部门依据各自职责负责本行政区域内算法推荐服务监督管理工作。地方网信部门负责统筹协调本行政区域内的算法推荐服务治理和相关监督管理工作。地方电信、公安、市场监管等有关部门依据各自职责负责本行政区域内的算法推荐服务监督管理工作。”

- 互联网新闻信息服务的算法利用规制：“算法推荐服务提供者提供互联网新闻信息服务的，应当依法取得互联网新闻信息服务许可，规范开展互联网新闻信息采编发布服务、转载服务和传播平台服务，不得生成合成虚假新闻信息，不得传播非国家规定范围内的单位发布的新闻信息。”

- 禁止利用算法实施垄断和不正当竞争行为：“算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息服务正常运行，实施垄断和不正当竞争行为”。

- 新增保障老年人合法权益：“算法推荐服务提供者向老年人提供服务的，应当保障老年人依法享有的权益，充分考虑老年人出行、就医、消费、办事等需求，按照国家有关规定提供智能化适老服务，依法开展涉电信网络诈骗信息的监测、识别和处置，便利老年人安全使用算法推荐服务”。

- 新增组织和个人的投诉举报渠道：“任何组织和个人发现违反本规定行为的，可以向网信部门和有关部门投诉、举报。收到投诉、举报的部门应当及时依法处理。”

02、主要内容

如上所述，算法因之作为一类技术而具有两面性，监管的治理思路也集中于对其正义一面的推进（正面治理）和对其非正义一面的消减（负面清单），具体如下表所示。同时，《规定》提出将协同多部门建立算法分级分类安全管理制度，根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等对算法推荐服务提供者实施分级分类管理。这一治理思路有可能取材于数据分类分级制度，其核心要义在原理上及其近似——通过算法分类实现分级管理，从而确保对高敏感级别算法的着重保护。

注释：

[1] Robert Sedgewick,Kevin Wayne.算法(第四版)[M].谢路云,译.北京：人民邮电出版社,2012.

[2] 《欧盟平台算法规制情况》，网络交易监督管理司，

https://www.samr.gov.cn/wljys/ptjjyj/202110/t20211015_335715.html，最后访问时间2022年1月7日。

[3] 《算法商业秘密与算法正义》，李晓辉，中国政法大学比较法学研究院副教授，法学博士。

或许您还想看

辛小天、毕静静：元宇宙的法律问题初探

辛小天、郑茂锋：碳交易文章系列之五 | 碳中和债券发行标准探析

辛小天、周杨、史蕾：实务视野 ｜《个人信息保护法》正式稿之重点条款导览

周杨、辛小天、史蕾：《数据安全法》正式稿的概览和粗议—— 全球数据保护政策下的中国处方

辛小天、史蕾、郑茂锋：速递 | 《数据出境安全评估办法（征求意见稿）》对比版

周杨、史蕾：赴港上市无需审查？《网络安全审查办法》尚无定论

周杨：全局视野，面面俱到 ——《网络安全标准实践指南——网络数据分类分级指引》正式发布

周杨、郑茂锋：解读与脑图分解 | 《数据出境安全评估办法》（征求意见稿）

作者简介

辛小天

北京德和衡（深圳）律师事务所合伙人

数字经济与人工智能业务中心总监，网络空间安全战略与法律委员会委员，清华大学创业引导年度荣誉导师。

曾就职于MayerBrown JSM 律师事务所，美国美富律师事务所，通用电气及奇虎360 。擅长数据合规、互联网法律及合规风控、投融资以及并购法律、反垄断法、公司法及劳动相关法律、外商投资及外资公司设立相关法律。

手机：13911159437

邮箱：xinxiaotian@deheheng.com

周  杨

北京德和衡律师事务所高级联席合伙人

北京市律师协会科技与大数据法律事务专业委员会委员，互联网仲裁院副秘书长，网络空间安全战略与法律委员会委员，曾任职奇虎360法律顾问，负责多个产品线合规工作，《360隐私保护白皮书》首版撰稿人之一，多年来专注从事网络安全及相关互联网产品合规工作，极少数数据保护与法律专业的跨界律师。目前专注于金融领域、互联网高新技术领域及前沿领域研究，擅长领域主要包含数据安全保护、信息安全、GDPR、电子商务、科技金融和网络文化。

手机：18610123230

邮箱：zhouyang@deheheng.com