La maggior parte dei sistemi autonomi oggi si basa ancora su una fiducia cieca. Ci fidiamo che gli agenti: • Agiscano come previsto • Rimangano entro i limiti • Evitino comportamenti dannosi Ma la fiducia senza enforcement non scala, specialmente per il software.

La fiducia cieca di solito appare così: • Chiavi API ampie • Credenziali a lungo termine • Permessi impliciti • Monitoraggio post-fatto Se qualcosa va storto, gli esseri umani intervengono dopo che il danno è stato fatto. Questo è reattivo, non è un'autonomia sicura.

Man mano che gli agenti diventano più capaci, la fiducia cieca diventa più rischiosa. Maggiore intelligenza significa: • Spazio d'azione più ampio • Esecuzione più rapida • Maggiore raggio d'azione Senza limiti rigorosi, un singolo errore può propagarsi istantaneamente.

I vincoli programmabili cambiano il modello. Invece di fidarsi dell'intento, i sistemi applicano regole: • Cosa può fare un agente • Quanto può spendere • Quando scade l'autorità • Quali azioni richiedono escalation I vincoli sono eseguiti dal codice, non dalla politica.

Questo sposta la sicurezza dal giudizio umano all'infrastruttura. I vincoli possono essere: • Limitati (solo azioni specifiche) • Limitati nel tempo (sessione limitata) • Limitati nel budget (limiti di spesa) • Revocabili automaticamente Nessuna assunzione. Nessuna congettura.

È importante notare che i vincoli programmabili non riducono l'autonomia. La abilitano. Quando gli agenti operano all'interno di confini imposti, possono agire in modo indipendente senza supervisione costante o approvazioni manuali.

La fiducia, in questo modello, diventa verificabile. Ogni azione può essere: • Autorizzata • Controllata per vincoli • Registrata • Auditata dopo l'esecuzione La fiducia non è più sociale o soggettiva, è dimostrabile.

La fiducia cieca chiede: “Crediamo che questo agente si comporterà?” I vincoli programmabili chiedono: “Cosa è permesso fare a questo agente?” Solo uno di questi si espande in sicurezza.

Il futuro dei sistemi autonomi non dipenderà da promesse migliori o politiche più rigide. Dipenderà da un'infrastruttura che impone limiti per impostazione predefinita. Ecco perché Kite è costruito attorno a vincoli programmabili, non a fiducia cieca 🪁