AI Agentに、どこまで自律的に任せるか

GitHubのAgentに関する責任ある利用の資料は、生成された変更の確認や人の責任を扱っています。これを実行運用へ落とすには「deployしてよい」だけでなく、どの変更を、どの環境へ、何が通れば公開するかを決める必要があります。

事前に条件付きで許可されている操作を、毎回あらためて聞き直す必要はありません。ただし、確認した後に対象revisionが変わった、無関係のCI失敗が残る、想定外のデータ変更が必要になった場合は、同じ許可で押し切らず再評価します。

PBG業務基盤のcontract-driven bugfixは、症状だけに合わせた修正ではなく、破られた契約を特定して直す進め方を扱っています。Agentの自律性にも同じ考え方が使えます。目的、対象外、検証、停止条件が分かれば、途中の実装判断を細かく指示しなくても進めやすくなります。

Developer HubのHuman Clearanceも、実装の正しさや現場受入と別の行為です。許可されたから正しいわけではなく、テストが通ったから許可されたわけでもありません。

読み取り調査や試作なら、細かな中間承認を減らして最後の成果を確認するほうが効率的です。大きなデータ移行では、調査・計画・試験・本番実行を分ける価値があります。同じAgentでも仕事の性質で境界を変えます。

PBGの現在の判断は、Agentを常に止めることでも、止めないことでもありません。責任が移る場所で必要な証拠と許可をそろえ、それ以外の可逆な仕事を進められるようにすることです。