عملاء الذكاء الاصطناعي بالفعل قادرون للغاية. يمكنهم التفكير والتخطيط، وتوليد الكود، والتفاوض، والتحسين. ومع ذلك، لا يزال معظم الوكلاء يواجهون صعوبة في العمل بشكل مستقل في العالم الحقيقي. عنق الزجاجة ليس الذكاء، بل السلطة.

يجيب الاستخبارات على السؤال: ماذا يجب أن يفعل؟ تجيب السلطة على سؤال مختلف: ما الذي يسمح لهذا العميل بفعله؟ بدون سلطة، حتى أذكى وكيل يجبر على طلب الإذن في كل خطوة.

اليوم، يعمل معظم الوكلاء بأشكال هشة من السلطة: • محافظ مملوكة للبشر • مفاتيح API مشتركة • الأذونات الواسعة • الموافقات اليدوية لم تصمم هذه النماذج أبدا للممثلين المستقلين.

والنتيجة هي مفارقة. الوكلاء قادرون على اتخاذ القرارات لكنهم غير قادرين على تنفيذها بشكل مستقل. كل فعل ذي معنى يصبح مقيدا بإنسان، أو سياسة، أو بحل بديل. الاستقلالية تتعثر.

السلطة الحقيقية يجب أن تكون: • صريح: محدد بوضوح • محدود: محدود بأفعال محددة • قابل للتنفيذ: يتم التحقق منه عند وقت التنفيذ • قابل للإلغاء: قابل للإزالة دون أن يتسبب النظام في تلف السلطة ليست ضمنية. تم الموافقة.

عندما تكون السلطة قابلة للبرمجة، تصبح الاستقلالية حقيقية. يمكن للوكلاء: • التصرف ضمن حدود محددة مسبقا • إجراء معاملات دون موافقة يدوية • التفاعل مع الوكلاء الآخرين بأمان • أن تتحمل المسؤولية عن النتائج لم يعد التنفيذ يعتمد على الثقة أو الإشراف.

والأهم من ذلك، أن السلطة ليست هي نفسها السلطة. منح السلطة لا يعني منح حق الوصول غير المحدود، بل يعني ترميز مدى حرية الوكيل بالضبط. هكذا تبقى الأنظمة آمنة مع توسع الوكلاء.

هذا يعيد صياغة مستقبل الذكاء الاصطناعي. لن يكون التقدم مدفوعا فقط بالنماذج الأذكى. وسيكون مدفوعا ببنية تحتية أفضل للتفويض والسيطرة والمساءلة.

العملاء لا يحتاجون إلى مزيد من المعلومات. هم بحاجة إلى سلطة قابلة للتحقق، مقيدة، وقابلة للتنفيذ عن قصد. هذا هو الأساس الذي يبنيه 🪁 كايت