La mayoría de los sistemas autónomos hoy en día siguen dependiendo de la confianza ciega. Confiamos en que los agentes harán: • Actuar según lo previsto • Mantenerse dentro de los límites • Evitar conductas dañinas Pero la confianza sin aplicación no escala, especialmente en el caso del software.

La confianza ciega suele ser así: • Claves de API amplias • Credenciales de larga duración • Permisos implícitos • Seguimiento posterior Si algo sale mal, los humanos intervienen después de que se haya hecho el daño. Eso es reactivo, no autonomía segura.

A medida que los agentes se vuelven más capaces, la confianza ciega se vuelve más arriesgada. Más inteligencia significa: • Espacio de acción más amplio • Ejecución más rápida • Mayor radio de explosión Sin límites estrictos, un solo error puede propagarse instantáneamente.

Las restricciones programables cambian el modelo. En lugar de confiar en la intención, los sistemas aplican reglas: • Lo que puede hacer un agente • Cuánto puede gastar • Cuando expira la autoridad • Qué acciones requieren escalada Las restricciones se ejecutan mediante código, no por política.

Esto traslada la seguridad del juicio humano a la infraestructura. Las restricciones pueden ser: • Alcance (solo acciones específicas) • Tiempo limitado (por sesión) • Limitado por presupuesto (límites de gasto) • Revocable automáticamente Sin suposiciones. Sin conjeturas.

Es importante destacar que las restricciones programables no reducen la autonomía. Lo habilitan. Cuando los agentes operan dentro de límites establecidos, pueden actuar de forma independiente sin supervisión constante ni aprobaciones manuales.

La confianza, en este modelo, se vuelve verificable. Cada acción puede ser: • Autorizado • Contrarreloj • Registrado • Auditado tras la ejecución La confianza ya no es social ni subjetiva, es demostrable.

Blind Trust pregunta: "¿Creemos que este agente se comportará?" Las restricciones programables preguntan: "¿Qué puede hacer este agente?" Solo una de estas básculas es segura.

El futuro de los sistemas autónomos no dependerá de mejores promesas ni de políticas más estrictas. Dependerá de la infraestructura que haga cumplir los límites por defecto. Por eso Kite está construido en torno a restricciones programables, no a la confianza 🪁 ciega