الحوافز والأنظمةOussama Ammar
اجعل القرارات المهمة قابلة للفحص
تقوى الثقة حين يمكن مساءلة النتيجة وفحصها وتصحيحها.
قد يحمل حكم الإنسان والآلة خطأ وتحيزا. يسهّل السجل اكتشاف بعض الأخطاء. قارن التنبؤات أو القرارات بالنتائج حيث تسمح المهمة.
افحص الأداء عبر الحالات والمجموعات المهمة. قد يخفي المتوسط الجيد نمطا خطيرا من الفشل. الاختبار المعني يقيس أثر النظام، لا نيته المعلنة وحدها.
ينبغي أن يحدد التدقيق أي نظام أنتج النتيجة. لا يفسر فحص نسخة بالضرورة جوابا من أخرى. أبقِ الصلة بين القرار وآليته متاحة للفحص.
للانفتاح مستويات. إتاحة مكوّن لا تكشف كل مدخل أو مصدر تدريب أو قرار. صف ما يستطيع الناس فحصه فعلا بدل جعل كلمة «مفتوح» تفسيرا كاملا.
اعرف حدود الشفافية
قد يتعلّم نظام واضح من معلومات معيبة. إظهار العملية لا يصلح الواقع الذي تمثله المدخلات. قد يساعد على كشف المشكلة والخيارات التالية.
قد تتعارض الأهداف. لا يحل النظام كل خلاف على الإنصاف بمجرد إنتاج رقم. على أحد اختيار ما يحسّنه النظام وتحمل مسؤولية الاختيار.
قد تقلل أنظمة مستقلة متعددة قابلة للفحص الاعتماد على سلطة واحدة لا تُساءل. وربما يكشف اختلافها افتراضات يخفيها جواب واحد. الغاية القدرة على اختبار الادعاء، لا خلاف بلا نهاية.
إمكان التصحيح وعد أقوى من الصواب الدائم. احفظ قدرة فحص الأدلة ومساءلة النتائج وتعديل الآلية. يصعّب نظام لا يعترف بالخطأ التعلّم.