Yapay zeka ajanları zaten son derece yetenekli. Düşünceyle çalışabilir, plan yapabilir, kod oluşturabilir, pazarlık yapabilir ve optimize edebilir. Yine de çoğu ajan gerçek dünyada bağımsız çalışmakta zorlanıyor. Dar boğaz zeka değil, otorite.

İstihbarat şu soruya cevap verir: Ne yapılmalı? Authority ise farklı bir soruya cevap verir: Bu ajan ne yapmasına izin verilir? Yetki olmadan, en zeki ajan bile her adımda izin istemek zorunda kalır.

Günümüzde çoğu ajan, kırılgan otorite biçimleriyle çalışır: • İnsan mülkiyetindeki cüzdanlar • Paylaşılan API anahtarları • Aşırı geniş izinler • Manuel onaylar Bu modeller hiç otonom aktörler için tasarlanmamıştır.

Sonuç bir paradoks. Ajanlar karar verebiliyor ama bunları bağımsız olarak uygulayamıyor. Her anlamlı eylem bir insan, bir politika veya bir çözüm tarafından kapatılıyor. Özerklik durur.

Gerçek otorite şu olmalıdır: • Açık: Açıkça tanımlanmış • Kapsamlı: Belirli eylemlerle sınırlı • Uygulanabilir: İdama sırasında kontrol edilir • İptal edilebilir: Sistemi bozmadan çıkarılabilir Otorite ima edilmez. Kabul edildi.

Otorite programlanabilir olduğunda, özerklik gerçek hale gelir. Ajanlar: • Önceden tanımlanmış sınırlar içinde hareket etmek • Manuel onay olmadan işlem yapmak • Diğer ajanlarla güvenli şekilde etkileşime geçmek • Sonuçlardan sorumlu tutulmak Uygulama artık güven veya denetime bağlı değil.

Önemli olarak, otorite ile güç aynı şey değildir. Yetki vermek, sınırsız erişim tanımak anlamına gelmez, bir ajanın tam olarak ne kadar özgürlüğe sahip olduğunu kodlamak anlamına gelir. Ajanların ölçeklenmesiyle sistemler böyle güvende kalır.

Bu, yapay zekanın geleceğini yeniden çerçeveliyor. İlerleme sadece daha akıllı modellerle yönlendirilmez. Bu, devretme, kontrol ve hesap verebilirlik için daha iyi altyapı tarafından yönlendirilecek.

Ajanların daha fazla zekaya ihtiyacı yok. Onlar, doğrulanabilir, kısıtlanmış ve tasarım gereği uygulanabilir bir otorite gerektirir. İşte Kite'ın inşa 🪁 ettiği temel