Field Note業務とテクノロジー2026.09.03
Updated 2026.09.03
AI の作業報告は、
どこまで信用してよいか
生成 AI に作業を任せると、報告は必ず「完了しました」で返ってきます。ピース・ビズが自社サイトの開発で、その報告のあとに何を測っているのかを整理します。
先に要点
報告そのものは、何を行ったかの記録として読んでいます。ただし「動いているかどうか」の判断には使っていません。当社では、公開前に人と機械の両方で実測し、報告と実測が一致したときにだけ受け入れます。実際に、要素は存在するのに動きが止まっている、という食い違いを経験しています。
- 報告は作業ログであって、結果の保証ではないものとして扱う
- 合格条件は「存在すること」ではなく「変化すること」で書く
- 報告と実測が食い違った場合は、実測を採用する
検証を自動化しても、画面を実際に見る工程はなくせませんでした。自動検証は落ちたときに強く、落ちないときには何も言わないためです。
「できました」は結果ではなく、報告
作業を任せた側が受け取るのは、成果物ではなく成果物についての説明です。
生成 AI に作業を任せると、返ってくるのはほぼ必ず肯定的な報告です。これは AI が嘘をつくという話ではなく、作業した本人が自分の作業を評価している、という構造の問題です。人に任せた場合も同じことは起こります。
当社で実際に起きたのは、画面上に要素は存在しているのに、その要素の動きが止まっている、という状態でした。「実装されているか」だけを見る確認では通ってしまいます。「存在するか」と「動いているか」は別の質問だからです。
そこで確認の書き方を変えました。合格条件を「要素があること」ではなく「時間の経過で値が変わること」に置き換えています。当社の検証手順には、この考え方をそのまま文章として残してあります。
報告と実測のあいだにあるもの
任せた作業が返ってきてから受け入れるまでに、当社が置いている工程です。工程を増やすのではなく、判断の材料を報告から実測へ移しています。
図は横にスクロールできます。
実測しなければ分からなかったこと
当社のサイトで、報告だけを見ていたら通っていた事象です。
要素はあるのに、動きが止まっていた
見た目の構造としては正しく、要素も存在していました。しかし時間が経っても状態が変わらず、実質的に静止していました。存在の確認だけでは検出できません。
一部の条件でだけ再現した
通常の設定では起きず、動きを減らす設定や通信量を抑える設定にしたときだけ起きる、という食い違いがありました。条件ごとに測らないと分かりません。
直したつもりの箇所が、別の場所を壊していた
報告は該当箇所についてのみ触れます。その変更が離れた画面に与えた影響までは報告に現れませんでした。
生成物の一部が、実際には使われていなかった
追加された部品がどこからも呼ばれていない、という状態がありました。動作としては問題が出ないため、報告でも検証でも表面化しません。使われているかどうかは別に確認する必要がありました。
当社では、AI の報告は作業ログとして読み、完了判断には使っていない
受け入れる前に通していること
当社が公開前に踏んでいる順番です。上から順に、機械で測れるものから人が見るものへ進みます。
Step 01
型と内容の整合を機械で確認する
型の検査と、掲載内容の決まり(リンク先が実在するか、必須項目が埋まっているか)の検査を通します。ここで落ちるものは、報告の内容にかかわらず受け入れません。
Step 02
本番と同じ手順でビルドする
手元の開発用の起動ではなく、本番と同じ手順で組み立てます。静的な書き出しまで含めて通ることを確認します。
Step 03
時間で変化する項目を測る
動きのある部分は、要素の有無ではなく、一定時間後に値が変わっているかどうかを測ります。動きを減らす設定でも、内容が読める状態で残っているかを別に測ります。
Step 04
実際の画面を見る
幅の違う画面で、崩れ・はみ出し・読みにくさを目で確認します。自動検証は落ちたときに強く、落ちなかったときには何も教えてくれないためです。
報告で足りる場面と、実測が要る場面
すべてを実測すると回らなくなるため、当社では分けています。
報告で足りる
- 何を調べたかの経緯
- どの選択肢を検討して外したか
- 変更していない範囲の申告
- 次に確認してほしい観点
実測する
- 動いているかどうか
- 公開されるページの見え方
- 設定を変えたときの挙動
- 他の画面に影響していないか
どちらでも判断できない
- その変更が必要だったかどうか
- 読み手にとって分かりやすくなったか
- 将来の保守がしやすくなったか
- 公開してよい内容かどうか
受入条件を書くときに確認していること
作業を任せる前に書く条件です。ここが曖昧だと、あとの実測が成立しません。
観測できる形になっているか
- 合格・不合格を、値の変化や画面の状態で判定できるか
- 「きれいに」「使いやすく」のような、測れない言葉になっていないか
- どの条件(画面幅、設定、経路)で測るかが書かれているか
- 確認する場所が特定できるか
範囲が決まっているか
- 変更してよい範囲が書かれているか
- 触ってはいけない範囲が書かれているか
- 既存の動作のうち、壊してはいけないものが挙がっているか
- 公開してよい情報かどうかの基準が示されているか
受入条件を先に書くと、報告のどこを読めばよいかが決まります。書いていないと、報告全体を読み直すことになります。
検証を自動化しても、見るのをやめてはいけない
検証を自動化しても、見るのをやめてはいけない
自動検証は、落ちたときには非常に強い一方で、落ちなかったときには何も教えてくれません。当社でも、自動検証がすべて通ったうえで、実際の画面では文字がはみ出していた、ということがありました。自動検証は「見なくてよい理由」ではなく「見る前に落とせるものを落とす手段」として置いています。
この記事について
実際の業務・運用で得た経験をもとに整理した記事です。
First-hand experience
ピース・ビズが自社コーポレートサイトの開発・運用で、生成 AI に作業を任せた結果を実際に検証してきた経験にもとづいて書いています。対象はピース・ビズ単体の自社サイト運用です。特定の製品の性能評価ではありません。
- Published
- 2026.09.03
- Updated
- 2026.09.03
- Published by
- Peace Biz
FAQ
このテーマでよくいただく質問
そうではありません。報告は行った作業についての説明としては正確なことが多く、経緯や検討の記録としては有用です。当社が分けているのは、その報告を「何をしたか」の記録として読むことと、「動いているか」の判断材料として使うことです。後者には実測を使っています。
検証の重さを場面で分けています。型と内容の検査は数秒で終わるため作業中に何度も通し、画面の目視は公開前にまとめて行います。すべてを毎回同じ厚さで確認すると回らなくなるため、速い検証を手元に、重い検証を公開前に置いています。
検証の仕組みを一度作れば、その後の運用は担当者が増えなくても回せる範囲だと考えています。ただし、最初に受入条件を言葉にする作業は人が行う必要があります。ここを飛ばすと、どれだけ自動検証を足しても「何が合格か」が決まりません。
Next
続けて確認したいこと
業務とテクノロジーのトピックに戻る
このテーマで公開している記事の一覧をご覧いただけます。