2022年以来各国的数字经济立法活动密集，世界范围内掀起了算法与人工智能的监管浪潮。各国均逐渐认识到算法在平台运行中的核心作用，将算法作为平台治理的重要对象。据统计，截止到2021年，美国众议院和参议院提出了三十多项立法，突出的重点是对算法的监管。由英国四个数字活动监管部门成立的英国数字监管合作论坛（DRCF）公布的2022-2023年工作计划中，支持改进算法的透明度成为其中两项重要的工作目标之一。由此可见，算法透明度的制度探索已经成为各国平台治理与数字经济立法的重中之重。目前，对于算法透明度的必要性与重要性、透明度与其他算法治理制度的关系，已经形成基本的理论共识，但是在监管与治理的具体场景中，算法如何透明，透明到什么程度等制度细节，仍有待进一步研究与探索。
探索算法透明度的具体制度细节
要区分不同场景
需首先厘清我国法律制度是在何种语境下讨论算法透明度，方可廓清算法透明度的具体制度目的。2021年9月份颁布的《关于加强互联网信息服务算法综合治理的指导意见》中，两处提到算法透明度。一是算法治理的基本原则中要求“坚持权益保障，引导算法应用公平公正、透明可释，充分保障网民合法权益”；二是具体措施中要求“推动算法公开透明。规范企业算法应用行为，保护网民合理权益，秉持公平、公正原则，促进算法公开透明。督促企业及时、合理、有效地公开算法基本原理、优化目标、决策标准等信息，做好算法结果解释，畅通投诉通道，消除社会疑虑，推动算法健康发展”。
由此可见，在我国算法综合治理体系中，算法透明度的制度目的重点在于以下两个方面：
第一，算法透明度的首要目标是保护网民和消费者的合法权益。在商业算法领域，算法透明度和消费者公平权、知情权等，与消费者权益保护密切相关，在这一目的下推动算法透明度，可以增强算法信任，消除社会疑虑。
第二，算法透明度的次要目标是便利监管，借以推进规范企业算法应用行为。在商业算法领域，算法对于监管部门的透明程度，直接关系着监管部门对于算法危害行为的问责，因此算法的透明一定程度上可以使得监管部门获取监管行动所需的必要信息，能够进一步通过监管行动敦促平台合规，保护消费者权益、维护竞争秩序和社会公共利益。
因此，对算法透明度具体制度细节的探讨，要区分两个不同的具体场景。不同的制度目的下，算法透明度的信息披露方式、种类、程度均有显著区别。
权益保护目的下的平台算法
透明度要求
网民和消费者权益保护目的，可以作为算法透明度的制度目的继续细分。在增强算法信任、消除社会疑虑的场景下，消费者要知晓的是算法的通用信息。出于具体消费者权益保护的目的，消费者可能对具体的算法决策存疑，这时算法透明的程度应达到使消费者对具体决策“知情”且能感知到“公平”的程度。
第一，为了增强算法信任，算法透明所要求披露的信息应包括算法的基本情况、设计目的和基本原理。如《互联网信息服务算法推荐管理规定》第十六条规定：“算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。”落实到具体行业，也涉及到算法透明的基本信息。如2022年1月开始实施的《征信业务管理办法》提高了规则透明度，“征信机构提供信用报告等信用信息查询产品服务的，应当客观展示查询的信用信息内容，并对查询的信用信息内容及专业名词进行解释说明；提供画像、评分、评级等评价类产品和服务的，应当建立评价标准。”
所以，基于这种场景的算法透明度要求，最少要包含三个内容：一是算法要明示自身存在（如以适当方法公示）；二是算法运行的基本逻辑（达到原理层面即可）；三是算法对于用户可能产生的影响（运行机制、目的意图）。这一思路也在国外立法中有所体现，如荷兰要求数据控制者必须提供关于算法的基本逻辑，以及该处理对数据主体的重要性和预期后果的有用信息；美国诸多算法立法尝试尚未成功，但要求披露一定程度算法信息的基本思路是一致的，如2019年的《过滤泡沫透明度法案》要求大型互联网平台向消费者提供更大的透明度，提供关于使用的明确通知，并使消费者能够选择退出由不透明算法策划的个性化内容。[1] 需要注意的是，我国法律要求用“适当方式”，应理解为具有一般文化素质的用户可以理解，如能够使用视频、图画、举例等方式应更佳。
第二，为了保障消费者知情权与公平权，算法透明要求披露的信息应更为具体化，通俗地讲，要实现“定制化”与“个性化”。如《2020年加州隐私权法案》要求对有关算法自动决策技术访问请求的答复，“包括有关此类决策过程中所涉及的逻辑的有意义的信息，以及对该过程对消费者可能产生的结果的描述”。我国《个人信息保护法》中也有类似的规定，如第二十四条提出“通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求个人信息处理者予以说明，并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定”。
但这一类“个性化”的算法透明度要求，可能为企业增加一定的负担，因此可考虑两种实现的方式，一是算法服务提供者可以直接向用户披露更为精细化的信息，以减少需要个性化算法解释的用户数量；二是只在涉及对个人权益有重大影响的算法自动化决策时，才为消费者提供算法解释。《互联网信息服务算法推荐管理规定》第十七条也规定“算法推荐服务提供者应用算法对用户权益造成重大影响的，应当依法予以说明并承担相应责任”。
在事后的解释内容上，美国FTC要求算法使用者做到不能仅仅通知结果，而是需要作出类似“你已经拖欠了你的信用义务”或“你的信用证明文件数量不足”这样的具体说明，而这类具体的披露，有时与算法解释互相交叠，其具体的制度边界仍在讨论中。
便利监管目的下的平台算法
透明度要求
便利监管的算法透明度目的亦可进一步细分为三个层次。
第一，风险监测需要。监管部门为了监测算法系统与识别算法带来的危害时，可能需要算法服务提供者披露一定信息。英国数字监管的各部门希望通过算法审计的方式来达到这一目的，包括提高算法采购的透明度，通过监管部门和第三方的算法审计来监测算法处理系统，这要求对监管部门要进行深度的算法信息披露。我国《互联网信息服务算法推荐管理办法》也有相关规定，“算法推荐服务提供者应当依法留存网络日志，……配合安全评估和监督检查工作，并提供必要的技术、数据等支持和协助”，由于其中必然涉及算法商业秘密，因此特别在第二十九条规定了监督检查的机构和人员不得泄密的义务。目前一般认为没有必要对监管部门披露到算法源代码一级的信息。
第二，监督检查需要。监管部门与企业之间往往存在着严重的信息不对称，某些情况下为了获取监管所需信息，需要强制企业算法透明。欧盟《人工智能法案》中，监管部门将被允许完全访问人工智能系统供应商的训练、验证和测试数据集，并在合理的要求下访问源代码本身。但在美国，立法通常不要求查阅源代码，法院也不要求查阅自动化决定，不过目前美国也有提高算法透明度要求的趋势。
第三，事后问责需要。如算法问责以主客观相统一为原则，则需要考察平台在算法设计和算法运行中是否有过错，这需要平台进行一定的算法信息披露。在美国尚未通过的算法立法尝试中，2021年5月美国在《2021年算法正义和在线平台透明度法案》中，提高了网站内容放大和修改做法的透明度，提出要为算法建立一个安全和有效的标准，要求在线平台以简单的语言向用户描述算法过程，并保持这些过程的详细记录供联邦贸易委员会审查。英国数字监管部门则重视促进算法采购的透明度，即在算法设计购买服务阶段即要接受算法透明度的审查，其计划提出一份包括最佳做法、有害行为和明确每个监管机构的作用的文件来指导算法的供应商和采购商。甚至在具体个案中，有事后问责时要求披露算法源代码程度的例子，如美国新泽西州的一家法院允许一名刑事被告查阅分析被告DNA与犯罪现场匹配概率的基因分型软件的源代码。相关案例中法院所要求的算法信息披露程度，可能会引发大家对知识产权保护的疑虑。
由此可见，在协助监管的制度目的下，透明度义务，披露算法信息的程度应该随着风险监测、监督检查、事后问责的不同场景而有所不同，但是无论如何，商业算法的服务提供者都应该留存日志，作为日后问责或免责的证据，各国对此也在进行相关的立法尝试。但有一点应明确，根据行政法的比例原则，算法透明度的信息披露程度应与其监管目标相符，非必要不应要求企业披露其完整代码或计算过程，甚至应尽量避免企业披露关键参数和算法细节，避免算法模型被外界窃取的可能性。以某企业个性化推荐算法为例，“基于数据分析的个性化信息推动服务技术”被我国列入《技术目录》禁止出口，如被破解、窃取，不仅危及企业利益，也可能触及我国进出口管理秩序等重要法益。如何在不侵害企业利益的情况下，做到监管的合法有效，仍需进一步探索与讨论。
[1]Blackburn Joins Thune on Bipartisan Bill to Increase Internet Platform Transparency & Provide Consumers with Greater Control Over Digital Content, Marsha Blackburn, U.S. Senator for Tennessee (Oct. 31, 2019),https://www.blackburn.senate.gov/blackburn-joins-thune-bipartisan-bill-increase-internet-platform-transparency-provide-consumers.fefe
作者 | 中国政法大学数据法治研究院教授 张凌寒
审核 | 于成龙 张丽娟
文字编辑 | 汪云凤
新媒体编辑 | 陈颖
中国工商出版社新媒体和数字出版部制作出品