AI Agentに、どこまで自律的に任せるか

「このAgentはdeployしてよい」と恒久的に決めるより、「この確認済みの版を、この環境へ、失敗時はこの状態へ戻せる条件で公開してよい」と結び付けます。版が変われば、以前の許可をそのまま使いません。

業務基盤のAgent Harnessでは、目的、変更してよい範囲、検証、禁止操作を仕事の契約として扱います。AIを信用する性格診断ではなく、今回の仕事に必要な権限だけを与える考え方です。

コードを書く途中の細かな選択をすべて人が見ると、AIの自律性は失われます。反対に、Productionの顧客データを変える判断をAIの自己評価へ任せると、責任の所在が消えます。

そこで、人が止める場所を、共有状態へ入る前、外部へ公開する前、不可逆な作用の前、業務上の事実を確定する前へ置きます。低リスクの内部作業はまとめて任せ、影響の質が変わるところで判断します。

規制対象のデータ、金銭、契約、採用判断など、誤りの責任が大きい仕事では、自律範囲を狭くします。反対に、公開されない文書整理や再生成できる検証環境では、確認回数を減らせます。

AI Agentへどこまで任せるかは、賢さの評価だけでは決まりません。「失敗したとき、誰に何が起き、元へ戻せるか」を具体的に書くと、止めるべき場所が見えてきます。

AIにファイルを編集させる、テストを実行させる、公開させる。操作名だけを並べると、どこまで任せるかは決めにくいものです。同じ編集でも、下書きの文言を直すのと、請求の計算式を変えるのでは、間違ったときに起きることが違います。そこで先に見るべきなのは、誰へ影響するか、元へ戻しても何が残るか、誤りに後から気付けるかです。

低い影響で、差分が見え、元へ戻せる仕事は、条件付きで自律させやすい領域です。一方で、データを消す、外部へ送る、本番の権限を変える、法的または対外的な責任を発生させる操作は、人が明示して止める境界に置きます。確認を増やすためではなく、間違いを会社の外へ出す前に止めるためです。

ピース・ビズ グループのAgent Harnessでも、AIを便利にすることより、どの判断を誰が引き受けるかを先に扱っています。設計があることと、自律実行が全て本番で許可されていることは別です。ここを混ぜないこと自体が、委任を少しずつ広げる前提になります。