让重要决定可检查

结果能被质疑、检查和纠正，信任就更强。

人和机器的判断，都可能包含错误与偏见。留下记录，让部分错误更易发现。任务允许时，把预测或决定与结果比较。

在重要情境和群体中检查表现。好平均值可能掩盖严重的失败模式。检验要看系统效果，不只看公开意图。

审计应确认哪个系统产生了结果。检查一个版本，未必能解释另一个版本的答案。保留决定与生成它的机制之间的联系，供人检查。

开放有层次。能访问一个组件，不代表能看见全部输入、训练来源或决定。说明人们实际能检查什么，别把“开放”一词当完整解释。

认识透明的边界

清楚的系统，仍可能从有缺陷的信息中学习。让流程可见，不能修复输入所代表的现实，但可以帮助揭示问题和随后的选择。

不同目标会冲突。系统不能仅靠产出一个数字，就解决所有关于公平的分歧。必须有人选择优化什么，并对选择负责。

多个独立、可检查的系统，能减少对单一、不可挑战权威的依赖。它们的分歧，能暴露单一答案藏住的假设。目的不是无休止争论，而是有能力检验主张。

承诺可以纠错，比承诺永远正确更有力。保留检查证据、质疑结果和修改机制的能力。无法承认错误的系统，让学习更难。