AI代理已经非常强大。 它们可以推理、规划、生成代码、谈判和优化。 然而,大多数代理仍然难以在现实世界中自主操作。 瓶颈不在于智能,而在于权威。
智能回答的问题是:应该做什么? 权威回答的是另一个问题:这个代理被允许做什么? 没有权威,即使是最聪明的代理也被迫在每一步都请求许可。
今天,大多数代理以脆弱的权威形式运作: • 人工拥有的钱包 • 共享的API密钥 • 过于宽泛的权限 • 手动审批 这些模型从未为自主行为者设计。
结果是一个悖论。 代理能够做出决策,但无法独立执行这些决策。 每一个有意义的行动都受到人类、政策或变通的限制。 自主性停滞不前。
真正的权威必须是: • 明确的:清晰定义 • 有限的:限制在特定的行为 • 可执行的:在执行时进行检查 • 可撤销的:可以在不破坏系统的情况下移除 权威不是隐含的。它是被授予的。
当权威可编程时,自主性变得真实。 代理可以: • 在预定义的限制内行动 • 无需手动批准进行交易 • 安全地与其他代理互动 • 对结果负责 执行不再依赖于信任或监督。
重要的是,权威与权力并不相同。 授予权威并不意味着授予无限的访问权限,而是精确编码代理拥有多少自由。 这就是系统在代理扩展时保持安全的方式。
这重新构建了AI的未来。 进步不仅仅依赖于更智能的模型。 它将依赖于更好的基础设施,以实现委托、控制和问责。
代理人不需要更多的智能。 他们需要的是可验证、受限且设计上可执行的权威。 这就是Kite正在构建的基础 🪁
123