AI記事の品質管理は、書いたAI自身の判断だけに任せていません。執筆・独立ファクトチェック・機械検証・批評・修正という5段階のラインを通し、全段を通過した記事だけをreviewedにします。本記事は各段が捕まえる誤りの対応表と、実際に差し戻された15件の指摘、そしてどの段でも捕まらなかった漏れを、自社の記録(2026-07-28確認)から公開します。

01結論:AI記事の品質管理は、執筆とファクトチェックを分けた5段階で担保します

結論は3点です。

  1. AI記事の品質管理は、書いた本人とは別の目で見る仕組みを5段階に分けて実装しています。
  2. 各段が担当する誤りの型は違います。1段だけに頼ると、担当外の誤りが素通りします。
  3. 段の数より、段と段の継ぎ目に隙間がないかを見ることが、実物の品質管理です。

5段階は、執筆(Write)→独立ファクトチェック(原典照合)→機械検証(build.py)→批評(悪魔の代弁者)→修正、の順に並びます。修正が終わると独立ファクトチェックへ戻り、指摘がゼロになるまで繰り返します。全段を通過した記事だけがstatus: reviewedになります。

この記事自体が、5段階を扱う自社ラインをそのまま開示する記事です。2026-07-28時点で、案件フォルダに残る批評ログ・改稿履歴・機械検証スクリプトを直接確認しました。本文の数字はすべてそこからの実測です。

検索エンジンの品質ガイドラインも、AI生成を含む自動化の使用を読者に分かるようにしているかを自己点検項目に挙げています(出典: Google公式)。制作体制を記事として開示するのは、この点検に対する自社の回答です。

AI記事の品質ラインが5段階を通り、reviewedへ至るまでの経路 AI記事の品質ラインを表す図。執筆・独立ファクトチェック・機械検証・批評・修正の5段階を時間軸で左から右へ並べる。独立ファクトチェックは誤断定・仕様誤読・架空の出典を検出し、機械検証はリンク切れを検出するが、字数やタイトル幅などの判定は未実装であることを破線の枠で示す。批評は情報密度不足に加えて他4種の見落としも肩代わりする。修正で指摘がゼロになればreviewedへ進み、指摘が残れば独立ファクトチェックへ差し戻される。5段すべてを通過した経路だけがreviewedに到達する。 FLOW AI記事の品質ラインを担う5段階 ①執筆 初稿の作成(起点) ②独立FC 誤断定・仕様誤読 架空の出典を検出 ③機械検証 リンク切れを検出 字数・タイトル幅は 未実装(2026-07-28) ④批評 情報密度不足を検出 他4種も肩代わり ⑤修正 指摘を1件ずつ解消 指摘ゼロなら status: reviewed 指摘が残れば②独立FCへ差し戻す(ゼロになるまで反復) 5段すべてを通過した経路だけが、reviewedへ到達する
AI記事の品質ラインを担う5段階の経路図

02AI記事の品質ラインは、5段階をどの順番で・誰が担当するか

5段階は、担当を分けて初めて機能します。同じ担当が2つの段を兼任すると、その担当の見落としが2回連続で素通りします。

段階担当何を見るか2026-07-28時点の実装状況
①執筆執筆担当のAI規約に沿って初稿を作る実装済み
②独立ファクトチェック執筆担当とは別のAIprimary_sourcesの原典と、本文の実測記述の突合独立工程としては未分離。④へ統合実施
③機械検証build.pyとqa配下のスクリプトリンク切れ・frontmatter必須項目・図解プレースホルダ数など一部実装済み。字数・タイトル幅・H2内キーワード被覆は未実装
④批評別人格の批評役AI規約逸脱・出典の正確性・情報の薄さを横断的に見る実装済み
⑤修正執筆担当のAI指摘を1件ずつ潰す実装済み

Claudeの公式ガイドは、引用元となる文を直接引かせ、裏づけが見つからない主張は取り下げさせる方法をハルシネーション対策として挙げています(出典: Anthropic公式)。②の独立ファクトチェックは、この裏づけ探しを記事単位でやり直す工程です。

Claude Codeのサブエージェントは、役割ごとに独立した文脈で作業し、要約だけを親へ返す設計です(出典: Claude Code公式)。品質ラインの②〜④も、この分業の考え方を記事審査にそのまま当てはめています。

表の「実装状況」が示すとおり、②は現時点で独立した工程になっていません。実務では④の批評担当が、原典照合と横断チェックをまとめて1回で行っています。次の章で、その1回がどこまで拾えたかを見ます。

「5段階」は、公開前の審査だけを切り出した数え方です。記事の構成を決める工程や、公開可否を最終判断する監修は、この5段階の前後にあります。審査の中身を独立で数えると5段階、審査の前後まで含めて数えると別の数え方になります。数え方が違っても、②〜④が果たす役割は変わりません。

03AI記事の品質管理表|5段階がファクトチェックでどの誤りを捕まえるか

5段階を設計どおりに割り当てると、誤りの型ごとに担当が決まります。ただし実際にどの段が捕まえたかは、設計と一致するとは限りません。

誤りの型本来の担当段階パイロットで実際に捕まえた段階実例(AGIM-701初稿)
自社実績の誤断定独立ファクトチェック批評(launchctlを実行して確認)稼働していない常駐処理を「動いている」と現在形で記述
公式仕様の誤読独立ファクトチェック批評(公式ドキュメントを再照合)フックの判定を実在しない自律度の段階として説明
社内規約からの逸脱機械検証批評(字数と図解点数を数え直す)字数上限・図解点数・タイトル幅の超過
参照整合性エラー機械検証機械検証(想定どおり)存在しない記事への参照8件がすべてリンク切れ
情報密度不足批評批評(想定どおり)動作原理の説明が本文にも図解にも1つもない
架空の出典独立ファクトチェック批評(社内文書を全文検索)存在しない社内文書を根拠として引用
数字の未検証な継承どの段にも割り当てがないどの段でも捕まらず、後日の台帳整備で発覚ある数字が改稿2回を通過し残り続けた

7行のうち5行は、本来②か③が担当のはずの誤りを、④の批評が肩代わりして捕まえています。想定どおり本来の段が捕まえたのは2行だけです。②を独立工程として分離していない現状では、④が拾い損ねると誰も拾いません。

批評ログを実測すると、この初稿は15件の指摘でREJECTと判定されました。内訳は重大4件・重要6件・中4件・軽微1件です(2026-07-28に批評ログを直接確認)。次の章で、重大4件の中身を見ます。

04品質ラインで実際に差し戻された15件|重大4件の中身

姉妹メディアの公開本数という数字が、3段階の申告を経て0本から251本へ変わった経緯 姉妹メディアの公開本数という1つの数字が、3段階の申告を経て変わっていく時系列図。縦軸は確認の厳密さを低から高で示し、横軸は時間の経過を示す。最初の記録は古い台帳表記を鵜呑みにした0本、1回目の訂正は本番URLを開いたが要約ツールの数字をそのまま採用した189本、後日の台帳整備でsitemap.xmlを実際に数えた251本へ確定した。批評が15件を差し戻した検証範囲の外に189本があり、検証の対象に入っていなかったことを示す。 TIMELINE 公開本数「189」はなぜ2回の改稿を素通りしたか 確認の厳密さ(低→高) 時間の経過(3回の申告) 批評が検出:稼働実績の誤断定 古い台帳表記を鵜呑みにした 最初の記録 0本 1回目の訂正 189本 本番URLは開いたが要約ツールの数字を採用 検証対象外 台帳整備時(後日) 251本 sitemap.xmlを実際に数えた 「確認した」という体裁があっても、検証の厳密さが揃うまで数字は素通りする 出典:批評ログ・改稿履歴(自社案件フォルダ)/251本はsitemap.xml実測・2026-07-28確認
差し戻された15件の指摘を重大度別に読ませる棒グラフ

重大と判定された4件は、いずれも公開後に読者から指摘されうる種類の誤りでした。

1つ目は、稼働実績の誤断定です。「常駐実行で動いている社内チャットの応答支援は」と現在形で書いた箇所を、批評担当がlaunchctl list | grep com.webmarksで実測しました。実際にロードされていた自社ジョブは1本だけで、記述した処理は稼働していませんでした。

2つ目は、公式仕様の誤読です。Claude Codeのフックの判定について、全面停止と全面自動化の中間に4段階の自律度がある、という趣旨の説明をしていました。原典を当たり直すと、判定はallow(許可)・deny(拒否)・ask(確認)の3つで返す設計でした。判断しないときはdefer(通常の権限フローへ戻す)を使うだけで、自律度の段階という説明自体が誤りでした。

3つ目は、社内規約からの無申告の逸脱です。当時の規約は字数上限・図解点数・タイトル幅を数値で定めていましたが、初稿はいずれも上限を超えていました。規約を破ること自体より、破った事実を記録せずに超えていたことが問題でした。

4つ目は、参照整合性のエラーです。本文中で他記事8本を名指ししていましたが、8本とも執筆前の記事で存在しませんでした。機械検証のスクリプトを実行すると、8件とも「リンク先が存在しない」でNGと判定されました。

4件に共通するのは、書いた本人には見えていなかった点です。稼働実績と公式仕様は原典に当たらないと分からず、規約逸脱は数え直さないと分からず、リンク切れは記憶ではなく機械的な突合でしか分かりません。

批評ログは、指摘1件をseverity(重大度)・where(該当箇所)・problem(何が問題か)・fix(どう直すか)の4項目で記録しています。1つ目の指摘は、実際には次の形で残っています(2026-07-28に案件フォルダから直接確認)。

{
  "severity": "重大",
  "where": "H2-3「具体例」本文(常駐実行の段落)",
  "problem": "現在形で稼働を断定しているが、launchctlの実測と一致しない",
  "fix": "3層の実例を公開前にすべて実測し、動いていなければ時制を過去形にするか状態を明記する"
}

4件とも、指摘だけでなく直し方までがログに残ります。修正では、動いていない処理の時制を過去形に変えました。フックの判定はallow・deny・ask・deferの4値として、そのまま書き直しました。

規約の上限は、特例を追加したうえで超過した事実を明記しました。存在しない8本の参照は、いったん本文から外しました。指摘を消すだけでなく直した理由まで残すことが、次の記事の執筆チェックに戻せる形にする条件です。

05品質ラインをすり抜けた漏れ|数字はなぜ二重に間違っていたのか

15件の指摘は、書いた本人が気づけない誤りを広く拾いました。それでも、1つの数字だけは2回の改稿を通過し、最終稿の直前まで残りました。

姉妹メディアの公開本数という数字です。最初の記録では、案件管理台帳の古い表記だけを根拠に「1本も公開されていない」と報告していました。これに気づいた人が本番URLを開き、「189本」へ訂正しました。

一見、これは正しい訂正に見えます。しかし「189」という数字は、本番ページをWebFetchで取得したときに要約ツールが返した数字をそのまま使ったもので、実際に数えた値ではありませんでした。

初稿では、この数字のすぐ上の段落に、常駐実行の誤断定がありました。批評担当はその誤断定は捕まえましたが、すぐ下に続く「189本」という数字までは、検証の対象に入りませんでした。改稿2回目でも数字はそのまま残りました。

正しい値の251本が判明したのは、後日、自社実例を記録する台帳を作る過程で、sitemap.xmlを実際に取得して件数を数え直したときです。「確認した」という記述があっても、確認の手段そのものが甘ければ、独立ファクトチェックも批評も同じ数字を素通りさせます。

もう1つの漏れは、規約そのものです。字数・タイトル幅・H2内のキーワード配置を機械的に判定するスクリプトは、2026-07-28時点でまだ実装されていません。今回は批評担当が電卓で数え直して気づきましたが、この段を素通りしても機械検証は止まりません。

LLM同士で出力を評価させる手法には、位置バイアスや自己を甘く評価するバイアスが伴うという指摘があります(出典: LLM-as-judge論文)。批評担当も別のAIである以上、この限界と無縁ではありません。

だからこそ、「確認した」という記述には確認の手段まで書かせています。「本番URLを開いた」ではなく「sitemap.xmlを取得し、/articles/を含むURLの数を数えた」まで書きます。そこまで書けば、次の担当が確認の精度を再現できます。

差し戻された15件の指摘、重大度別件数と本文での個別開示範囲のズレ 差し戻された15件の指摘を重大度別に表した棒グラフ。横軸は重大・重要・中・軽微の4区分、縦軸は0から6件の件数を示す。実測件数は重大4件・重要6件・中4件・軽微1件で合計15件。本文にはまだ書かれていない軸として、指摘の中身を本文で個別公開しているかどうかを追加している。重大の4件だけは本文中に指摘の中身が個別に書かれているが、重要・中・軽微を合わせた10件は件数のみが公開され、中身は本文に記載がない。出典は批評ログ(自社案件フォルダ・2026-07-28確認)。 COMPARE 重大度別の指摘件数と、本文で個別開示している範囲のズレ 内訳:重大4/重要6/中4/軽微1(合計15件・2026-07-28確認) 件数(件) 6 4 2 0 4 6 4 1 重大 重要 軽微 個別公開 件数のみ公開・中身は本文に記載なし 開示している範囲(重大のみ)と、実際の件数内訳(15件中4件)は一致しない 出典:批評ログ(自社案件フォルダ・2026-07-28確認)
姉妹メディアの公開本数という1つの数字が、3段階の申告を経て変わっていく時系列図

06品質管理でつまずきやすい点|自社でも起きた4つの誤り

1つ目は、1つの担当に役割を寄せすぎることです。②独立ファクトチェックと④批評を分けずに運用すると、④の注意が向いた箇所だけが厚く検査され、向かなかった箇所は素通りします。

2つ目は、「確認した」という記述を、確認の中身を見ずに信じることです。189という数字は「本番URLで確認した」という体裁を持っていたため、次の担当がそれ以上疑いませんでした。

3つ目は、規約を文章として書いた時点で満たしたと考えることです。字数やタイトル幅の上限は、機械的に判定するコードとして実装するまで、読み飛ばされても誰も止められません。

4つ目は、指摘を1回限りの修正で終わらせることです。15件の指摘を型に分類せず次の記事へ持ち越さなければ、同じ型の誤りが別の記事でまた起きます。品質ラインの成果は、直した記事の数ではなく、繰り返さなくなった誤りの型の数で測るべきです。

4つとも、担当や規約が「無い」から起きたのではありません。担当は5つとも決まっており、規約も数値で存在していました。抜けたのは、担当同士の境界と、規約とコードの間と、指摘を次へつなぐ経路でした。

07品質ラインを公開前に確認するチェックリスト

  • 執筆担当と、原典照合を行う担当が別人格になっているか
  • 原典照合の結果を、機械検証とは別の記録として残しているか
  • 機械検証が実際に判定しているのは規約のうち何割か、書き出しているか
  • 批評担当が、原典照合と機械検証の担当外まで肩代わりしていないか
  • 「確認した」という記述について、確認の手段そのものを疑っているか
  • 差し戻された指摘を型に分類し、次の記事の執筆前チェックへ反映しているか
  • 規約の数値を、文章だけでなく判定コードとして実装する計画があるか

08FAQ

独立ファクトチェックと批評は、同じAIが兼任してもいいですか

兼任は避けたほうが安全です。同じ視点で2回見ても、最初に見落とした箇所は2回目も見落とす確率が高いままです。

5段階をすべて自動化すれば、人の確認は不要になりますか

いいえ。WEBMARKSでも、公開の可否は最終的に人が判断します。5段階は公開前の下ごしらえで、公開の決定そのものは別の工程です。

機械検証が整えば、批評は不要になりますか

なりません。機械検証が判定できるのは、数値化できるルールだけです。稼働実績の誤断定や公式仕様の誤読のような事実の正しさは、原典に当たる工程がないと拾えません。字数やタイトル幅が全項目PASSでも、内容が薄い記事はそのまま通ります。

小さなチームでも5段階の品質ラインは真似できますか

役割を分けるところから始められます。執筆と原典照合を別の担当(別セッションでも人でも)にするだけで、この記事で示した漏れの一部は防げます。

差し戻された指摘は、後の記事にどう活かしていますか

指摘を誤りの型に分類し、次の記事の提出前チェックリストへ反映しています。稼働実績の誤断定・公式仕様の誤読・参照整合性のような型は、以後の執筆時に自分で確認する項目として引き継がれます。