Distinguer capacité et jugement

Un système peut bien exécuter une tâche en poursuivant le mauvais résultat. Sa capacité ne choisit pas ce que l’entreprise doit valoriser. Les personnes restent responsables du but et de ses arbitrages.

Une réponse fluide ne prouve pas la vérité. L’assurance de la présentation et l’exactitude sont deux questions distinctes. Évaluez le résultat avec des preuves adaptées à la tâche.

L’automatisation doit prolonger un jugement utile sans masquer son absence. Définissez l’exigence, observez les comportements et modifiez le système quand il échoue.