معظم الأنظمة الذاتية اليوم لا تزال تعتمد على الثقة العمياء. نحن نثق أن الوكلاء سيقومون: • التصرف كما هو مقصود • البقاء ضمن الحدود • تجنب السلوك الضار لكن الثقة بدون تطبيق لا تتوسع، خاصة بالنسبة للبرمجيات.

الثقة العمياء عادة ما تبدو هكذا: • مفاتيح واجهة برمجة التطبيقات العريضة • المؤهلات طويلة العمر • الأذونات الضمنية • المراقبة بعد الوقوع إذا حدث خطأ ما، يتدخل البشر بعد حدوث الضرر. هذا تفاعلي، وليس استقلالية آمنة.

ومع ازدياد قدرة الوكلاء، تصبح الثقة العمياء أكثر خطورة. المزيد من الذكاء يعني: • مساحة أوسع للحركة • تنفيذ أسرع • نطاق انفجار أكبر بدون حدود صارمة، يمكن لخطأ واحد أن ينتشر فورا.

القيود القابلة للبرمجة تغير النموذج. بدلا من الثقة بالنية، تفرض الأنظمة قواعد: • ما يمكن أن يفعله الوكيل • كم يمكن أن تنفق • عند انتهاء صلاحيته • أي الإجراءات تتطلب تصعيدا القيود تنفذ بواسطة الكود وليس السياسة.

هذا ينقل السلامة من حكم الإنسان إلى البنية التحتية. يمكن أن تكون القيود: • منظار (إجراءات محددة فقط) • محدد زمن (محدود بالجلسة) • محدود الميزانية (حدود الإنفاق) • قابل للإلغاء تلقائيا لا افتراضات. لا تخمين.

من المهم أن القيود القابلة للبرمجة لا تقلل من الاستقلالية. هم من يمكنه. عندما يعمل الوكلاء ضمن حدود مفروضة، يمكنهم التصرف بشكل مستقل دون رقابة مستمرة أو موافقات يدوية.

الثقة، في هذا النموذج، تصبح قابلة للتحقق. كل فعل يمكن أن يكون: • مصرح به • تم التحقق من القيود • تم تسجيل • يتم تدقيقه بعد التنفيذ الثقة لم تعد اجتماعية أو ذاتية، بل يمكن إثباتها.

يسأل Blind Trust: "هل نعتقد أن هذا العميل سيتصرف بشكل جيد؟" القيود القابلة للبرمجة تسأل: "ما الذي يسمح لهذا الوكيل بفعله؟" واحدة فقط من هذه الحراشف بأمان.

مستقبل الأنظمة الذاتية الحكم لن يعتمد على وعود أفضل أو سياسات أكثر صرامة. سيعتمد ذلك على البنية التحتية التي تفرض الحدود بشكل افتراضي. لهذا السبب تم بناء Kite على قيود قابلة للبرمجة، وليس ثقة 🪁 عمياء