技术透明度报告:定义与评估方法

一份帮助理解机构应就其技术、责任主体、风险和局限提供哪些证据的指南。

作者 Daniel Sardá · 发表于:

阅读约需 7 分钟1,325 字词

本页内容 · 7 节

行政机关通过自动化系统确定申请的优先顺序。企业决定展示哪些内容、拦截哪些操作,或对哪些用户实施额外审查。在这两种情形中,技术都介入了影响人们的决策,而这些当事人既不了解其规则,也未参与其设计。

技术透明度报告试图缩小这一距离。它阐明机构使用了何种工具、该工具作何用途、由谁承担责任,以及关于其运行结果存在何种证据。然而,仅仅发布一份文件本身并不能使一个机构变得透明。其价值取决于信息的质量、核实信息的可能性,以及对相关决策提出质疑的可用机制。

核心观点: 有效的透明度不在于公布页面的多少,而在于这些信息是否能够让人理解、核实并质疑技术的使用。

什么是技术透明度报告

该概念尚无普遍适用的法律定义。从实用角度而言,它是机构用于说明某项技术及围绕该技术作出的制度决策的公开文件,内容涵盖目的、适用范围、责任主体、数据、性能表现、风险、控制措施、变更记录及局限性。

该报告可以涉及人工智能,但并不局限于此。它还可以涵盖数字平台、身份识别系统、监控工具、云服务、内容审核流程或管理敏感信息的基础设施。

英国算法透明度标准提供了一个操作层面的范例:它要求说明工具的用途、使用范围、责任主体、人工干预、数据、性能表现以及风险防范措施。该标准适用于英国公共部门和算法工具;它可作为参考,但并非适用于任何机构或国家的强制性模板。

试图解决什么问题

开发、采购或运行某项技术的主体,往往比承受其影响的人更了解该技术。这种信息不对称使得发现错误、讨论优先顺序和确定责任归属变得困难。它还可能导致某项制度性决策仅仅因为被呈现为纯粹的技术输出,而显得不可避免。

技术透明度报告能够使原本分散的决策显现出来:谁确立了目标、使用了哪些数据、人工干预保留了多大空间,以及系统发生故障时会发生什么。这对于面对公共权力以及有能力影响机会、准入或表达的私营机构而言,都同样重要。

从自由主义视角来看,可核实的信息有助于限制权力的任意行使。这并不要求假设所有技术都值得怀疑。它只是更为审慎地要求:决策者能够说明理由,并对产生的后果承担责任。

应当包含哪些信息

适当的内容取决于具体工具、其风险以及受其影响的群体。作为良好实践,技术透明度报告可以回答以下问题:

  • 目的与范围: 试图解决什么问题,哪些用途被排除在外?
  • 责任主体: 谁开发、采购、批准、运行和监督该技术?
  • 关键运行机制: 使用何种输入信息,如何影响决策?
  • 数据: 数据来源何处,存在哪些局限,如何进行保护?
  • 人工干预: 谁可以审查、修正或撤销系统生成的结果?
  • 性能与影响: 如何评估错误、不利影响以及不同群体之间的差异?
  • 风险与控制: 预见到了哪些损害,采取了哪些措施降低风险?
  • 周期与变更: 信息对应的时间段为何,发生过哪些修改?
  • 局限性: 哪些内容未知、未被衡量或无法公开,原因何在?

经合组织在其人工智能原则中强调,信息必须具有实质意义且符合具体情境,受影响的人群必须能够理解并质疑不利结果。这一经验可以更宽泛地表述为:如果读者无法将海量数据或代码库与具体决策联系起来,那么公开它们也无济于事。

核心观点: 能够获取并不等同于能够理解。信息需要语境、清晰的语言,以及与影响个人的各项决策之间可见的关联。

一个简单的示例

设想某个机构使用一套系统来确定申请的优先处理顺序。一份有用的报告不会仅限于宣称其采用了“负责任的人工智能”。它会解释哪些申请进入该系统、哪些因素影响优先级、由谁批准使用、审查频率如何,以及发现了哪些错误。

它还会说明公职人员是否可以修改系统建议、此类干预如何留存记录,以及当事人通过何种途径申请复核。如果出于隐私或安全考虑未公开某些细节,文件应当说明保留不公开的性质以及所采取的替代控制措施。为了梳理此类分析,构建一个数字威胁模型可能会有所帮助。

不应与该报告混淆的概念

若干相近概念承担着不同的职能:

  • 审计: 报告侧重于陈述;审计则依据标准、查阅证据并在理想条件下以充分的独立性进行核验。自我声明性质的文件无法替代这种审查。
  • 算法透明度: 侧重于算法系统。技术透明度还可以涵盖采购、基础设施、安全、数据以及机构治理。
  • 可解释性: 旨在说明系统如何运行或如何得出特定结果。它可以是报告的一部分,但不一定能指明谁决定使用该系统,也不一定能指出谁对其产生的后果承担责任。
  • 开源代码或开放数据: 允许有价值的检查,但单独发布可能难以理解或侵犯权利。开放性必须与隐私以及对个人数据的正当控制相协调;在讨论个人数据所有权时,可以更好地理解这种张力。
  • 合规: 公开实践做法并不证明其合法、公正或有效。这取决于适用的规范和证据。

如何识别可信的报告

读者无需成为工程师即可评估报告质量的基本特征。首先,应关注精确性:系统名称、责任主体、时间范围和使用领域,而不是抽象的承诺。其次,关注可追溯性:数据来源、评估方法、变更记录,以及风险与控制措施之间的关联。

不同周期之间的可比性、语言的通俗易懂以及明确的更新日期也同样重要。严肃的报告会承认不确定性、不利结果和局限性,而不是仅挑选有利指标。

对声明内容进行对照核实的能力增强了报告的可信度。这种核实可以来自可复用数据、方法论文档、独立监督或审计。NIST 人工智能风险管理框架强调分配角色、记录流程和审查风险,但也提醒注意透明度与隐私、安全及其他价值之间的张力。如果公开更多信息会泄露个人数据或为攻击提供便利,那么披露更多内容并不总是更好的选择。

警告: 不加解释地隐瞒会阻碍审查;不加甄别地披露则可能造成其他损害。正当的信息保留必须界限清晰、理由充分,并配有替代性的控制措施。

透明度不等于完全问责

即使是一份出色的报告也存在局限性。它可能包含错误、遗漏敏感问题,或使用令人安心的措辞来包装存疑的决策。它不能保证系统一定准确、安全、公正或合法,仅凭报告本身也无法为遭受损害的人提供救济。

问责需要更多支撑:清晰的规则、明确的责任人、证据的保全、具备实际能力的监督,以及对决策提出异议的途径。在适用的情况下,它还需要审计以及对违规行为追究后果。

因此,核心问题不在于一个机构是否“发布了透明度”,而在于其提供的信息是否能够让其技术权力接受审视。一份好的报告开启了这种可能性。相比之下,唯有在将声明内容与实际情况进行对照核实、并确认存在有效制约之后,信任才可能产生。

关于作者

Daniel Sardá 是 SEO 专家兼 Libertatis Venezuela 编辑。他从独立、非党派的视角撰写有关自由主义、政治经济学、制度、宣传和个人自由的文章。

查看完整资料