吕炳斌:论个人信息处理者的算法说明义务
2021年10月23日      ( 正文字号: )
[ 导语 ]
      告知同意系个人信息保护的基本要求和核心规范。《民法典》和《个人信息保护法》均对个人信息处理者施加了告知义务,看似明确,实则存在许多有待解释的问题。比如,立法者有意区分使用“公开”和“明示”,“明示”具有什么特殊内涵和规范要求?“明示”的规范要求中是否存在说明义务?说明的程度是否又意味着充分说明?对此,南京大学法学院吕炳斌教授在《论个人信息处理者的算法说明义务》一文中,聚焦算法的自动化决策,从规范分析上论证算法说明义务,从理论上完成了算法说明义务的正当性证成,并探讨和明确了算法说明义务的范围及其限度。
一、算法说明义务的规范推演路径

我国个人信息保护方面的立法未采纳“个人信息权”的权利化表达,但明确规定了信息处理者的相应义务。告知义务是首要义务。《民法典》第1035条第1款的第2、3项分别以“公开”和“明示”开头,体现了立法者对告知义务的程度要求存在区别。处理信息的规则只要公开即可,但对于“处理信息目的、方式和范围”,其告知需要达到“明示”的程度要求。告知中的明示要求和充分性要求均蕴含着说明义务。将一般意义上的个人信息处理者说明义务推演至基于个人信息处理的算法决策场合,由于个人信息实际上是通过算法的方式予以处理和分析的,信息处理者也应承担相应的“算法说明义务”。

就算法说明义务的规范依据而言,在我国《个人信息保护法》出台并实施后,算法说明义务将有两处规范依据:其一是《民法典》确立、《个人信息保护法》予以强化的个人信息处理者的告知义务;其二是《个人信息保护法》引入的自动化决策透明度原则和特定条件下的事后说明义务。基于对《个人信息保护法》第24条的分析,结合欧盟《通用数据保护条例》的实践,应肯认在我国,算法说明义务不应当限于决策生成之后的解释说明,而应当囊括事前和事后的不同阶段,两者可以分别存在不同的规范依据。

二、算法说明义务的正当性证成

(一)个人信息处理者说明义务的正当性

一般意义上的个人信息处理者说明义务和特定意义上的算法说明义务均难以通过构成要件加以明确,因此可基于动态体系论视角,通过对若干关键要素的动态权衡、综合考量来论证和确立这种说明义务。德国学者构建的用于论证说明义务的动态体系的要素包括信息需求、信息可能性和职责范围三个要素,我国有学者将之修正为信息重要性、披露可能性、期待合理性和信赖紧密度四个要素。在算法决策场合,自然人需要知道个人信息被处理的方式、目的和范围,存在信息需求。个人信息处理者也存在披露可能性,且基于法律上的职责要求有义务去维护自然人的人格利益。由于动态系统论不要求各要素皆需满足,而是考察要素之间的互相协作的关系,因此,依据动态体系论下说明义务的论证框架,无论是三要素说,还是四要素说,个人信息处理者的说明义务都可以得到证成。

进一步而言,动态体系论的要素并非凭空运作,而是构建在基本价值的基础之上。个人信息保护的基本价值取向于尊重人格尊严及自由发展。说明义务在价值层面即有助于维护自然人的决定自由,并且有利于解决信息提供者和处理者之间的信息不对称问题。

此外,说明义务不仅在规范和价值层面可以得到证成,也反映着实践需求。在大数据时代,个人信息处理者的说明义务是针对个人信息保护的技术驱动机制缺乏的一种弥补措施。说明义务的存在,有助于避免个人信息的盲目和过度使用。

(二)算法说明义务的补强理由

第一,算法决策具有权力内涵,算法说明义务旨在保障算法的可责性和透明度,是落实权力问责机制的需要。在实际应用中,算法决策不仅仅是一种技术工具,还产生了规制人们生活之力。由此,算法说明义务的存在,并不仅仅是对技术性事项的解释说明,也是对权力行使的逻辑及理由的必要说明。同时,从程序正义的视角而言,在算法得以解释和说明的基础上,当事人才能提出反驳或要求重新审查。

第二,算法说明义务的存在是解决算法信任危机的需要。虽然算法决策不仅可以提高决策效率,还可以转嫁决策风险、规避错误决策责任,但算法决策由机器执行,人类对之的信任危机也将更为突出。在诉诸权威之外,解决信任危机的主要方法是解释说明。

第三,算法说明义务还具有制度激励功能,可促进更为透明、更为可靠的算法的研发和诞生。若无此义务,“算法黑箱”不仅可能会因此合法化,而且还会得到持续的制度支撑和发展动力。恰当的法律规范和义务配置有助于促进技术的良性发展。

三、算法说明义务的范围和限度

(一)算法说明义务面临的障碍

算法的技术障碍和成本问题。在算法说明义务的程度和范围的构造中,需要充分考虑算法设计者或应用者的解释成本问题,并将之与公众的潜在收益进行大致的衡量。基于技术障碍和说明成本的考量,一个初步的结论是算法设计者或应用者只需要解释说明到逻辑思路层面,而不是解释说明具体的运算方法,更不必提供复杂的数学解释。

商业秘密的限制问题。基于商业秘密的特性,算法及其数据的商业秘密保护将对算法披露和说明构成实质性的限制。可以说明的主要是系统功能以及算法的一般逻辑和主要参数,而不包括详细的参数和权重,后者往往落入商业秘密的保护范畴。需强调的是,商业秘密保护对算法解释说明可以起到限制作用,但不是绝对的拒绝。在两项利益发生冲突时,可借鉴比例原则的思想。

决策系统的人为干扰和滥用问题。将算法保密,可避免算法博弈、数据作弊等人为干扰,有利于所有人都在公平的状态下获得分析和评价。正因为如此,某些决策的过程和依据必须保持晦涩不明,以免他人博弈。

产业竞争和技术发展需要算法保持复杂和晦涩。从产业竞争的角度看,算法开发者具有内在动力去保持算法的复杂性和晦涩性,但这会致使算法难以得到充分的解释;就技术发展而言,算法只有超越人类智慧,才能给人类带来更多益处。

(二)算法说明义务的说明范围及其限度

首先,就算法说明的对象而言,与我国法下的个人信息处理者的说明义务相对应,算法说明义务既包括事后说明,也包括事前说明,既涉及面向特定对象、就特定决策进行的解释说明,也涉及就一般意义上的系统功能等事项的说明。

其次,在算法解释说明的技术层面,重点不应该放在算法的具体技术细节上,而应该是整体方案、技术本质、基本逻辑、主要参数、大致权重和潜在风险等关键信息。此外,技术层面的算法披露的一个障碍是一般的自然人未必能够理解,这就要求在风险和敏感度较高的决策领域,使用人类可以解释和理解的技术方案和决策方法,从而规避不可控制的风险。

最后,就算法说明的范围而言,由于技术本身是无害的,对个人权益造成侵害的往往是算法应用,而不是算法本身。因此,算法说明的重点之一应当是算法的具体应用方式。当然,从算法应用着手进行解释,仍然难以回避对算法技术方案的解释,两者应当相辅相成。

(三)算法说明义务“有限版”的有益补充

面对“算法黑箱”,首要的治理措施是算法说明义务。一般而言,算法的基本逻辑、主要参数、大致权重、具体用途及潜在风险等关键信息的披露可以确保个人的知情同意,也可以基本保障算法的透明度原则。但当算法说明义务无法充分实现算法治理的目标、无法确定受决策的个人是否得到公平合理的对待时,以第三方审计和监督的方式进行的算法问责制成为一个替补的合理选择,这既可以避免算法中的秘密点的公开,也可以促使算法受到专业人士的监督和控制,化解算法中的秘密点的潜在风险和危机。

四、结语

在应用算法的个人信息自动化决策场合,个人信息处理者(同时也是算法决策者)需要承担相应的说明义务,这在规范上和理论上均可得到解释和证成。算法说明义务有一定限度。算法说明义务的目的在于保障个人知情,该义务指向关于算法技术及其应用方面的有用信息,但无需涵盖算法的技术细节和复杂的数学解释。为弥补算法说明义务的不足,可辅之以算法问责制,对算法进行协同治理。



(本文文字编辑胡新平。本文未经原文作者审核。本文为中国民商法律网“原创标识”作品。凡未在“中国民商法律网”微信公众号正式发布的文章,一律不得转载。)


文献链接:《论个人信息处理者的算法说明义务》

[ 参考文献 ]

本文选编自吕炳斌:《论个人信息处理者的算法说明义务》,载《现代法学》2021年第4期。
【作者简介】吕炳斌,南京大学法学院教授,中国民商法律网授权学者。

推荐阅读
梅夏英:企业数据权益原论:从财产到控制
企业数据权益是一个纯粹的数据问题。企业数据表现为对现实数据的有限自我控制,其保护应当以维护数据的控制为基础。
蒋大兴:公司董事会的职权再造
公司法应夯实经理层的经营决策职权,与其走向“董事会中心主义”,不如认可“经理人中心主义”。
缪因知:操纵证券市场民事责任的适用疑难与制度缓进
我国学界多主张为追究操纵证券市场民事责任提供更多便利,但相关制度适用中的法理疑难之处不可轻视。
热门排行
学术公告
问答集锦
相关文章
本期评价
0个赞
0个踩
敬请关注中国法学会民法典编纂项目领导小组组织撰写的《中华人民共和国民法典•民法总则专家建议稿(征求意见稿)》

编辑:鲍生慧

向编辑提问:

分享

扫二维码
用手机看民商
用微信扫描
还可以分享至
好友和朋友圈

中国民法学研究会
教育部人文社会科学重点研究基地
中国人民大学民商事法律科学研究中心

本网站由王利明教授创办并提供全部运作资金 Copyright◎2000-2021 All Rights Reserved  
E-mail: ccclarticles@126.com