AIエージェントはすでに非常に有能です。 彼らは推論し、計画し、コードを生成し、交渉し、最適化することができます。 それでも多くのエージェントは現実世界で自律的に行動するのに苦労しています。 ボトルネックは知能ではなく、権威です。

情報はこう問いに答えます:何をすべきか? 権威は別の質問に答えます:このエージェントは何が許されているのか? 権限がなければ、どんなに賢いエージェントでもあらゆる段階で許可を求めざるを得ません。

今日、ほとんどのエージェントは脆弱な権限のもとで活動しています。 ・人間所有の財布 • 共有APIキー • オーバーブロード許可 ・手動承認 これらのモデルは自律的な俳優向けに設計されたものではありませんでした。

その結果、逆説が生じます。 エージェントは意思決定を行うことはできますが、それを独立して実行することはできません。 すべての意味のある行動は、人間やポリシー、あるいは回避策によって制限されてしまいます。 自律性は停滞します。

真の権威は以下のものでなければなりません: ・明示的:明確に定義されている • スコープド:特定のアクションに限定 • 執行可能:執行時に確認される • 可消可能:システムを壊さずに取り外し可能 権威は暗黙のものではありません。それは認められた。

権威がプログラム可能であれば、自律性は現実のものとなります。 エージェントは以下のことができます: ・あらかじめ定められた範囲内で行動すること ・手動承認なしで取引を行う • 他のエージェントと安全に連携する ・成果に対して責任を負うこと 実行はもはや信頼や監督に依存しません。

重要なのは、権威は権力とは異なるということです。 権限を与えることは無制限アクセスを与えることではなく、エージェントが持つ自由度を正確に符号化することを意味します。 これがエージェントがスケールアップする中でシステムが安全を維持する方法です。

これはAIの未来を再構築します。 進歩は賢いモデルだけによって動かされるわけではありません。 それは委任、管理、説明責任のためのより良いインフラによって推進されます。

エージェントはもっと知性を必要としていません。 彼らは検証可能で制約され、執行可能な権限を必要としています。 それがカイトが築🪁いている基盤です