Software・AI・人間へ、どの判断を置くべきか

NISTのAI Risk Management Frameworkは、利用状況と影響を含めてリスクを扱います。取込へ適用すると、正答率だけでは採用を決められません。余分な候補を一件見せる誤りと、正しい情報を削除する誤りでは損失が違います。

決まった形式変換をAIへ任せると、同じ処理を再現・説明する負担が増える場合があります。自由記述から確認箇所を抜き出す補助なら余地がありますが、原文へ戻れ、出力をそのまま業務上の事実にしないことが条件です。

PBGの反映状態計算では、レビューだけでなく、業務上の解決、重複候補、必要な名前の確定などを別の条件として扱います。一つが終わっても、別の条件が未解決なら反映できない構造です。

承認画面を増やすためではありません。何を確認したかが消えると、次の処理が責任範囲を誤解するためです。形式、意味、証拠の不足を分けると、訂正時にも戻る場所を特定できます。

入力形式が閉じ、誤りを検出・復旧できるなら、ルールで完了する範囲を広げられます。曖昧でも件数が少なければ、人が直接確認するほうが簡単な場合があります。

不可逆な処理も、明確な契約と証拠、影響を限定する仕組みがあれば自動化の余地はあります。ただしモデルの高い確信度だけを許可条件にはしません。PBGの判断は、AIの採否より先に訂正できる単位と責任を設計することです。