自律性レベル¶

このダイヤルは何か¶

自律性レベルは、エージェントがどこまでの操作を人間の介在なしに自動実行できるかを制御するダイヤルです。L0（提案のみ）からL6（完全自律）までの7段階があり、エージェントの信頼性と操作のリスクに応じて段階的に権限を広げたり狭めたりします。

AIエージェントシステムにおいて、自律性は「有か無か」の二値で設計するものではありません。ツール呼び出しが副作用を持つ（F8）以上、完全自動と完全手動の間に広大なグラデーションがあります。読取操作は自動で行わせつつ、本番データベースへの書込は承認を求め、決済操作は完全に禁止する、というように操作カテゴリごとに異なるレベルを設定するのが現実的です。

さらに重要なのは、自律性レベルは固定ではなく、実績に基づいて昇格・降格する動的な値であるということです。運転免許のように、信頼を獲得すればより高い自律性を与え、違反があれば降格させます。この動的な調整を行わないと、初期に保守的すぎるレベルを設定した場合はいつまでも人間が承認ボトルネックになり、逆に最初から高い自律性を与えた場合は障害時のダメージが大きくなります。

効かなすぎる害 ⇔ 効きすぎる害¶

効かなすぎる害（自律性レベルが低すぎる）¶

自律性を過度に制限すると、エージェント導入の価値が失われます。

すべての操作に人間の承認を求めると、エージェントは「自動で動く」のではなく「提案書を作る」だけのツールに成り下がります。人間が1件ずつ承認する時間は手作業と変わらず、自動化の効果がゼロになります
読取操作（データベースのSELECT、検索API呼び出し）にまで承認を求めると、エージェントが情報を集めるだけで数十分かかります
開発者がエージェントに頼らず手動で作業する方が速いと判断し、エージェントが使われなくなります
承認が形骸化します。低リスクの操作に対して繰り返し承認を求められると、承認者はいちいち内容を確認せず機械的に承認するようになり（承認疲れ）、本当に重要な承認が見落とされます

効きすぎる害（自律性レベルが高すぎる）¶

自律性を過度に開放すると、被害半径が拡大します。

ハルシネーション（F4）により、エージェントが存在しない顧客に請求書を送信したり、誤ったデータでデータベースを更新したりします
本番環境のデータを破壊する操作が自動実行され、発覚したときには手遅れです
セキュリティ上の攻撃面が拡大します。プロンプトインジェクション（F14）で操作を注入された場合、高い自律性レベルのエージェントほど大きな被害を出します
エラーが連鎖します。誤った操作の結果を基に次の操作が行われ、被害が雪だるま式に拡大します

決め方¶

このダイヤルは [reversibility]（可逆性）と [failure_cost]（失敗コスト）の2つの駆動変数を軸に決めます。