依法规制算法背后的数字权力

　　算法是包含一系列数学运算并将其转换为计算机代码的完整指令，系互联网技术的具体呈现之一。算法以数字平台为载体，产生了数字社会建设运行中的支配性权力，潜移默化地塑造着数字时代人们的行为规范和生活方式。

　　数字权力的运行逻辑

　　当今，数字平台依托其技术能力和对数据的占有，在社会基础设施的权力发生机制下，已获得了一种对社会生活的支配力。在算法技术属性与社会属性的互构中，数字平台正以数字权力的方式支配和控制着社会实践。基于算法对海量数据的整合和支配，数字权力嵌入社会运行诸领域，对数字时代的社会主体行为产生重要影响。

　　基于此种认知，可从三个维度诠释数字权力的运行逻辑。在经济层面，数字平台依托“信息决定权力分配”的数据优势，向平台内不同主体提供差异化产品与服务，衔接、整合、重塑各类主体间的资源和关系，从而创造价值，实现资金流、物资流等融通，使各类主体利益最大化。在技术层面，数字平台依托其技术优势，充分发挥算法的精准分发、特征挖掘等作用，以个人终端(如手机等)为中心点与整个数字社会进行信息互动，从而重塑信息流并实现数字化控制。在法律层面，一方面，数字平台作为行使数字权力的主体，与政府监管权之间有着合作与博弈的关系(如反垄断等)。另一方面，数字平台依托其对要素资源的控制力，实际上拥有制定规则、监督管理等权力。此时，算法背后的数字权力突破了“权力即公权力”的传统认识，是具有监管性质的私主体权力。

　　数字权力的规制模式

　　经济层面的运行逻辑，使数字权力主体具有追求自身利益最大化的便利条件；技术层面的运行逻辑，使其具有对人类社会、物理世界、信息空间的数字化控制能力；法律层面的运行逻辑，使其具有对平台内各方主体事实上的“规制权”。因此，数字权力的膨胀往往难以遏制，有必要依法对其进行规制。从现有制度和实践来看，主要存在以下两种规制模式。

　　第一种是针对数字平台构建的要素治理模式。根据《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等规定，尽管算法治理的触角已向技术研发者等延伸，但其规制对象仍然主要是数字平台，并围绕“数据、算法、场景”等要素展开。规制这三项要素的逻辑在于，数据是基础，算法是数据的整合(输入与输出)，场景是数据与算法的具体应用。

　　首先是数据保护。当前，《网络安全法》《数据安全法》《个人信息保护法》《电子商务法》等均有数据保护条款，构建起了数据安全保障与个人信息保护的双重框架。其次是算法规制。以《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务算法推荐管理规定》等为支撑，我国已初步形成以国信办为规制主体，以“算法安全”“算法公平”“算法向善”为价值导向的规制体系。最后是场景应用。《数字中国建设整体布局规划》系统划分了数字权力规制的各类场景，如网络销售、生活服务、社交娱乐、信息资讯、金融服务等，重点在于进一步制度化、规范化数字平台作为治理枢纽的主体责任，要求其既尽到相应的安全保障义务，又要履行好对服务使用者的管理义务。

　　第二种是按权力运行轨迹构建的全过程治理模式。以2021年《互联网信息服务算法推荐管理规定》为标志，我国对于数字权力的监管逐渐从20世纪90年代的物理层、21世纪初的内容层，延展至代码层，并初步形成了全过程治理模式。

　　其一是事前约束。这意味着对数字权力治理关口前移，并将规制对象指向数据与算法。在算法推荐、短视频、网络直播、社交网络等领域中，运用算法备案、新技术新应用安全评估等方式，坚持技术治网、精准施策。其二是事中监管。一方面，要求数字平台落实主体责任，努力实现“预防式治理”，确保算法“弘扬社会主义核心价值观，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益”。另一方面，政府作为监管主体，统筹好发展与安全，运用指导、约谈等方式为数字权力运行提供合理预期。其三是事后处罚。主要遵循“主体—行为—责任”的思路，利用行政权力对数字权力滥用或“逃逸”追责。在内容上，主要体现为网络安全、数据安全、个人信息保护、知识产权保护以及相应的人机交互关系等方面；在责任上，主要体现为责令整改、处置账号、移动应用程序下架、暂停功能或更新、关闭网站、罚款等责任形式。

　　习近平总书记指出，“我们要用历史映照现实、远观未来”。依法规制算法背后的数字权力，是当今数字社会面临的一项新课题、新挑战，需要我们总结既有的制度成果和历史经验，深入分析数字权力的运行机理，立足于数字法治建设的实践探索，不断完善我国依法规制数字权力的治理体系。

　　作者：浙江省社会科学院王崟屾，本文原载于《中国社会科学报》第A03版，2023年12月21日。