丁晓东:基于信任的自动化决策——算法解释权的原理反思与制度重构
2022年5月15日      ( 正文字号: )
文章标签:个人信息   个人信息保护法   算法
[ 导语 ]
       基于个人信息的算法自动化决策越来越普遍,我国《个人信息保护法》和相关国内外法律都引入算法解释权加以应对。但是算法解释权应理解为一般性权利还是限定性权利?要求系统性解释还是个案性解释、事前解释还是事后解释、人工解释还是机器解释?这些都存在解释争议与适用困境。对此,中国人民大学法学院丁晓东副教授在《基于信任的自动化决策:算法解释权的原理反思与制度重构》一文中,在反思算法解释权原理的基础上,将算法解释权的性质视为一种程序性权利,提出应根据自动化决策所处的行业领域、市场化程度、个案影响、企业能力而对其内容、程度、时间和方式作不同要求。
一、算法解释权的解释争议

算法自动化决策越来越普遍,为应对与个人信息相关的算法黑箱问题,各国在个人信息或个人数据保护法中规定了相关算法解释权条款。但有关算法解释权的内容、程度、时间、方式等制度问题仍存在很大争议。

内容上,算法解释权可被解释为一般性权利主张,个体在所有情形下针对所有自动化决策者的算法解释权利。另一方面,又可被理解为限定性权利性主张,仅包括特定条件下的说明解释权与拒绝自动化处理的权利。程度上,算法解释权可被理解为系统解释,个人可要求自动化决策者对算法的系统功能进行解释,包括系统逻辑、意义、后果和功能。另一方面,又可被理解为个案解释,个人可要求对个案具体决策进行解释,包括算法决策原理、原因、限定自动决策个别情况。时间上,算法解释权既可视为事前解释,即要求自动化决策者进行算法决策前的解释,也可视为事后解释,即要求决策者进行算法决策后的解释。方式上,算法解释权可被认为要求进行人工解释,即自动化决策者应当通过人工服务的方式解释算法的运行机制。另一方面,又可认为自动化或非人工的纯粹机器解释同样符合算法解释权的要求。

二、算法解释权的适用困境

(一)算法解释权的权利内容

将算法解释权界定为一般性权利主张,可能面临知情同意原则带来的问题。个人未必能通过知情同意的方式来维护自身权益,算法规则非常复杂,决策者很难完整解释,个人也很难理解。机器学习算法随时间推移改变处理数据的方式,难以将绝对透明视为算法解释权的要求。将算法解释权视为一种限定性权利的主张也面临挑战。部分场景下,个人反对权的行使并不合理,如行人要求自动驾驶汽车避免使用算法并不现实。在原理层面,将反对或脱离算法决策上升为一种权利也需进一步论证。

(二)算法解释权的解释程度

算法的系统性解释面临三个难题:时时更新;常常难以引起个人注意提供有效信息;知识产权与“算计”算法。算法个案性解释首先面临与系统性解释同样的问题,因为个案性解释以系统性解释为前提。其次,个案性解释的解释难度更大、成本更高。最后,个案性解释需要多具体?如果以个人彻底满意为标准,个案解释可能会无穷无尽。

(三)算法解释权的时间要求

算法事前解释的意义有限。事前解释只能是一般解释,无助于个体理解算法和作出理性决策。事后解释也面临难题。事后解释在算法决策作出之后进行,个人对自动化决策与个人信息处理的选择权将形同虚设。此外事后解释应以体系性解释还是个案性解释作为要求也是两难问题。

(四)算法解释权的方式要求

在解释方式上,机器解释与人工解释也难以作统一要求。将人工解释作为强制、统一要求并不现实,特别是对于用户数量过亿的互联网企业。但若允许企业采取纯机器解释,未必能够消除个人疑虑,算法解释制度初衷可能大打折扣。

三、算法解释权的原理分析

(一)算法个体控制论的困境

算法解释权的提出和制定与个人信息控制权理论密切相关。算法解释权作为一种新型权利,正是访问权、纠正权、删除权等传统个人信息控制权的拓展。然而,将算法解释权视为绝对化的控制性权利,存在以下问题。

首先,个人信息控制权本身存在可行性困境。个人很难通过“告知—同意”的方式作出理性判断,此种困境无法通过强化个人选择权来解决。基于算法自动化决策的复杂性、黑箱属性和不可预测性,全面解释不可行或难度太大。

其次,个人控制权存在正当性困境。在很多自动化决策的场景中,自动化决策者与个人之间具有互惠合作关系,而不只是对抗性,赋予个人更多的算法解释权与控制权难以具备绝对化权利的正当性基础,也不利于双方合作关系的形成。只有在不对等的对抗防范关系中,如企业存在不合理支配,赋予个体算法拒绝权与解释权才具有正当性。

最后,市场本身也具有调整能力。市场良性竞争中不合理的算法会被淘汰,算法解释权应当更多适用于对消费者产生重大影响的自动化决策,或者针对具有市场支配地位的企业。

(二)抛弃算法解释权?

算法外部监管具有算法理解能力强、调查与执法能力强、保护范围广等优势。但是,以算法外部监管取代算法解释权并不合理。

首先,算法的外部监管面临多重挑战。监管机构数量和人员有限,发现问题能力较弱。面对快速变化的科技问题,监管机构往往难以进行知识更新。监管往往依赖全有全无的规则或命令,对于场景多元、权益多变的算法自动化决策未必适合。

其次,算法解释权的合理行使可以弥补算法外部监管的不足。用户是算法决策的最直接影响对象,赋予个人对于算法的有限解释权,可以较快发现问题,有利于对算法进行监督和合作治理。

最后,作为工具的算法解释权可以成为价值本身。个体主张算法解释权,可被视为一种直觉性的个体尊严需求,有利于个人自主性的实现。

(三)迈向沟通信任的算法解释权

算法解释权应当建立在沟通信任的原则之上,以促进双方的合作互惠、消除个人的疑虑和防范自动化决策者的不合理支配为目标,应当更多以信任原则、可信赖的信息处理机制、信义义务等重构算法解释权。

(四)算法解释权的程序性特征

基于沟通信任的原则,算法解释权应被视为一种动态、沟通、相对性的程序性权利。首先,信任是一个过程,无法通过一次性授权而永久性建构,使得算法解释权更类似动态性权利。其次,信任需要在关系中进行建构,而不能通过孤立的权利行使来获取,使得算法解释权更类似沟通性权利。最后,信任是程度性而非绝对性的,使得算法解释权更接近于相对性权利。此外,算法解释权中的信任问题还应考虑市场竞争、算法决策的应用领域。

四、算法解释权的制度重构

首先,权利内容上,算法解释权作为程序性权利,其实体性边界应根据具体场景下个人与算法决策者的沟通信任关系确定。当算法决策场景具有严重信任危机且难以通过市场竞争改善算法时,应赋予个体一般性的算法解释权主张。当算法决策场景信任度较高或具有良性互动竞争机制,应将算法解释权限定为某些特定的权利主张。

其次,解释程度上,一方面应要求企业充分了解和掌握算法的系统性解释。企业需不断进行内部自我监管,在事前解释中内部沟通算法设计,事后解释中倒查内部算法运作机制。另一方面,可根据算法所处的领域特征、影响性不同而要求不同程度和类别的个案解释。对用户选择较多、个案影响一般的算法决策,应允许自动化决策者自身设定个案解释规则。对不涉及意识形态与公共伦理的娱乐资讯分发算法,应允许企业在个案解释中进行自我规制。对具有公共性影响、对个体造成重大影响特别是实际伤害的算法决策,国家应强制自动化决策者进行个案解释。

再次,解释时间上,在告知环节可以要求或倡导企业在事前进行模糊性解释,描述算法的整体运行,让用户或消费者感知算法的具体运行情况,而非对算法的所有参数和所有细节进行描述。

最后,解释方式上,自动化决策者可以根据自身能力、行业特征、用户数量与算法影响程度而选择人工解释或机器解释。对个人或社会造成重大影响的算法,人工解释应成为兜底要求,此外可鼓励算法主体建立机器与人工的混合解释机制。

五、结论

算法具有黑箱性、不确定性、复杂性,有关算法解释权的内容、程度、时间、方式等制度问题仍存在很大争议。在原理层面,这一争议与困境源于个人算法控制论。应以沟通信任原则重构算法解释权,算法解释权的目的不是实现“没有意义的透明”,或者建立个体对于算法的绝对控制。相反,算法解释权是为了在信息处理关系中搭建桥梁,在个人与自动化决策者之间构建信任、消除误解、减少疑虑。从信任沟通原则出发,算法解释权应被视为一种动态、沟通、相对性的程序性权利,而非实体性权利。算法解释权制度也应进行重构,应根据自动化决策所处的行业领域、市场化程度、个案影响、企业能力而对其内容、程度、时间和方式作不同要求。

 

 

本文文字编辑李晶晶。本文未经原文作者审核。本文为中国民商法律网“原创标识”作品。凡未在“中国民商法律网”微信公众号正式发布的文章,一律不得转载。

 

 

文献链接:《基于信任的自动化决策:算法解释权的原理反思与制度重构

[ 参考文献 ]

本文选编自丁晓东:《基于信任的自动化决策:算法解释权的原理反思与制度重构》,载《中国法学》2022年第1期。
【作者简介】丁晓东,中国人民大学法学院、未来法治研究院副教授,法学博士,中国民商法律网授权学者。

推荐阅读
王利明:论债权形式主义下的区分原则
在贯彻实施《民法典》时,不应按照物权行为理论来理解区分原则,必须在债权形式主义模式下准确理解和适用区分原则。
曹兴权、杨士民:论公司法定代表人与其他人员越权的差异
在判断表见代表/理时,相对人对公司法定代表人与其他人员越权的审查义务有差异,应提出具体化函数理论进一步明确。
李建伟:决议的法律行为属性论争与证成
决议的多数决意思形成机制体现私法自治,决议特殊规则不构成对决议的法律行为属性的否定和减损。
热门排行
学术公告
问答集锦
相关文章
本期评价
0个赞
0个踩
敬请关注中国法学会民法典编纂项目领导小组组织撰写的《中华人民共和国民法典•民法总则专家建议稿(征求意见稿)》

编辑:李晶晶

向编辑提问:

分享

扫二维码
用手机看民商
用微信扫描
还可以分享至
好友和朋友圈

中国民法学研究会
教育部人文社会科学重点研究基地
中国人民大学民商事法律科学研究中心

本网站由王利明教授创办并提供全部运作资金 Copyright◎2000-2021 All Rights Reserved 京ICP备2022010855号  
E-mail: ccclarticles@126.com