Agenci AI są już bardzo zdolni. Potrafią rozumować, planować, generować kod, negocjować i optymalizować. Jednak większość agentów wciąż ma trudności z autonomicznym działaniem w rzeczywistym świecie. Wąskim gardłem nie jest inteligencja, lecz autorytet.
Inteligencja odpowiada na pytanie: Co należy zrobić? Władza odpowiada na inne pytanie: Co ten agent ma prawo zrobić? Bez władzy nawet najinteligentniejszy agent zmuszony jest prosić o pozwolenie na każdym kroku.
Dziś większość agentów działa w oparciu o kruchą formę władzy: • Portfele należące do ludzi • Wspólne klucze API • Zbyt szerokie uprawnienia • Ręczne zatwierdzenia Te modele nigdy nie były zaprojektowane dla autonomicznych podmiotów.
Wynik jest paradoksem. Agenci są zdolni do podejmowania decyzji, ale niezdolni do ich samodzielnego wykonania. Każda znacząca akcja jest ograniczona przez człowieka, politykę lub obejście. Autonomia utknęła.
Prawdziwa władza musi być: • Wyraźna: Wyraźnie zdefiniowana • Ograniczona: Ograniczona do konkretnych działań • Egzekwowalna: Sprawdzana w czasie wykonania • Odwołalna: Możliwa do usunięcia bez łamania systemu Władza nie jest domniemana. Jest przyznawana.
Kiedy władza jest programowalna, autonomia staje się rzeczywistością. Agenci mogą: • Działać w ramach zdefiniowanych ograniczeń • Transakcji bez ręcznej akceptacji • Interagować z innymi agentami w sposób bezpieczny • Być pociągnięci do odpowiedzialności za wyniki Wykonanie nie zależy już od zaufania ani nadzoru.
Co ważne, autorytet nie jest tym samym co władza. Przyznanie autorytetu nie oznacza przyznania nieograniczonego dostępu, oznacza to zakodowanie dokładnie, ile wolności ma agent. W ten sposób systemy pozostają bezpieczne, gdy agenci się rozwijają.
To przekształca przyszłość AI. Postęp nie będzie napędzany wyłącznie przez mądrzejsze modele. Będzie napędzany przez lepszą infrastrukturę do delegowania, kontroli i odpowiedzialności.
Agenci nie potrzebują więcej inteligencji. Potrzebują władzy, która jest weryfikowalna, ograniczona i egzekwowalna z założenia. To jest fundament, na którym buduje Kite 🪁
109