Agent Skillsは、説明文(description)を読んだAIが「使うかどうか」を判断する仕組みです。「59本そろえたのに、狙った場面で呼ばれているか分からない」という声が社内で出ました。本記事は、公式仕様に基づいてWEBMARKSの59本を監査した結果と、そこから設計する検証手順を共有します。実行済みの正答率がある体裁では書いていません。

01結論(3行)|Agent Skillsの発火精度を検証する前に分かること

  1. Agent Skillsの発火精度は、説明文がAIに読まれて初めて成立します。読まれなければ、条件が一致していても発火しません。
  2. WEBMARKSの59本のうち、一覧に説明文が表示されていたのは35本でした。残り24本は名前だけで、判断材料がありませんでした(2026-07-28時点)。
  3. 「59本×885問」という設計自体は成立します。ただし実行はまだ済んでおらず、正答率は走らせてから初めて言える数字です。

02Agent Skillsの発火精度はdescriptionだけで決まる|公式ドキュメントの仕組み

Claude Codeは起動時に、インストール済みスキルの名前とdescriptionだけを先読みします。SKILL.md本体は、そのスキルが必要になった瞬間に初めて読み込まれます(出典: Claude Code公式ドキュメント)。つまり発火の判定材料は、本文ではなくdescriptionの一文に絞られます。

Agent SkillsはClaude Codeの拡張機能の1つです。業務でどこまで任せられるかは『業務で使うClaude Code|コード以外に任せる仕事の地図』で扱っています。

公式のベストプラクティスは、descriptionを「三人称で、何をするか・いつ使うかの両方を書く」ことと定めています(出典: Agent Skills公式)。一人称や二人称で書くと、判断がぶれる原因になるとも明記されています。descriptionは1スキルにつき1個で、100本を超える環境を想定してもこの一文だけでAIが選ぶ設計です(出典: 同上)。

descriptionには公式の上限があります。Claude Codeの一覧表示ではさらに別の予算が働き、超過すると呼び出し頻度の低いスキルから説明文が落とされます(出典: Claude Code公式ドキュメント)。

項目内容出典
descriptionの文字数上限1,024字Agent Skills公式ベストプラクティス
Claude Code一覧でのdescription+when_to_use上限1,536字Claude Code公式ドキュメント
一覧の文字数予算モデルのcontext windowの1%同上
予算超過時の挙動呼び出し頻度が低いスキルから説明文を落とす同上
推奨する人称三人称固定Agent Skills公式ベストプラクティス
Agent Skillsの発火判定は、一致数と除外文の有無でどの5つに分かれるか Agent Skillsの発火判定を表す図。まず一覧に説明文があるかを確認し、無ければ59本中24本のようにそもそも比較にすら入らず終わる。説明文があれば、ユーザーの一言との一致数を見る。0件なら発火せず終わり、1件なら狙いどおり発火する。2件以上一致した場合は除外文の有無で結果が変わり、除外文がなければ曖昧で誤発火のリスクが残り、除外文があれば正しい方が勝つ。 BRANCH Agent Skills、発火判定の5つの分かれ道 ユーザーの一言×一覧のdescriptionを照合 一覧に説明文があるか? いいえ・24本 はい・35本 一致数は? 0件 1件 ⑤説明文なし 予算超過などで 比較に入らない ①一致0件 発火せず終わる ②一致1件 狙いどおり発火 ③除外文なし 曖昧・誤発火 ④除外文あり 正しい方が勝つ 勝敗は一致数より先に、説明文の有無と除外文の有無で決まる
Agent Skillsの発火判定で起きる5つの分かれ道

03WEBMARKS 59本の説明文を監査した結果|衝突が発火精度を脅かす9本

監査の対象は、WEBMARKSがClaude Code環境で運用する自社スキルです。プラグイン同梱の汎用スキル(superpowersやanthropic-skills等)は対象から除き、業務用に作り込んだものだけを数えました。2026-07-28時点でこの条件に当てはまるスキルは59本でした。

59本のうち、一覧にdescriptionが表示されていたのは35本、名前だけだったのは24本でした。名前だけの24本が予算超過によるものかどうかは、この記事の時点では確認できていません。ただしClaude Code公式ドキュメントが説明する「呼び出し頻度が低いスキルから説明文を落とす」という挙動とは矛盾しません(出典: 同上)。

分類該当数割合
一覧にdescriptionが表示されている35本59本中59%
一覧が名前のみ(description非表示)24本59本中41%
表示されている35本のうち、明示的な除外文(「これには発火しない」)を持つ9本35本中26%
除外文を持たず、自分の条件だけを書いている26本35本中74%

除外文を持つ9本のうち5本は、devils-advocate・vault-audit・seo-article・x-post・html-diagram-explainerです。残り4本は、data-chart-maker・editable-pptx-deck・funnel-diagnosis・harukaze-instagram-feed-postです。いずれも、似た業務ドメインに複数のスキルが並ぶ場所でした。

たとえばvault-auditは、safety-audit・hierarchy-audit・automation-health・devils-advocateとの違いを説明文自身に書いています。同じ「監査」でも見る対象が違うため、書かなければ4本のどれが発火してもおかしくありません。diagram-makerとhtml-diagram-explainerも似た関係ですが、除外文があるのはhtml-diagram-explainer側だけでした。

04発火精度を検証する設計|「59本×885問」の内訳とskill-creatorの手法

Agent Skills公式は、スキルの効きめを測る評価(eval)の作り方を公開しています。手順は、実際の失敗を先に集める→評価シナリオを作る→スキル無しの基準値を測る→最小限の指示を書く→反復する、の5段です(出典: Agent Skills公式ベストプラクティス)。

この評価は本来、出力の質(できあがった成果物が良いか)を測る仕組みです。トリガー精度(狙った依頼で発火するか)を測る機能は、別に用意されています。skill-creatorプラグインの「description tuning」が、発火すべき文とすべきでない文を生成し、命中率を測って改善案を出します(出典: Claude Code公式ドキュメント)。

WEBMARKS自身、この59本の中にskill-creatorを含めています。ただし2026-07-28時点で、59本全部にこの機能を回した記録はありません。台帳の未実測欄に載っているのは、この作業がまだ実行されていないという意味です(出典: 自社実例の実測台帳、2026-07-28確認)。

段階やること
Test casesプロンプトと期待する挙動をevals.jsonに書く
Isolated runs1問ごとに独立したサブエージェントで実行し、文脈を残さない
Grading各問をPASS・FAILと根拠つきで判定する
Benchmarkスキル有無での正答率・時間・トークンを集計する
Version comparison2つのdescriptionを見比べるブラインドA/Bを行う
Description tuning発火すべき文・すべきでない文を生成し命中率を測る

(出典: Claude Code公式ドキュメント)

「59本×885問」は、1本あたり平均15問という設計から逆算した数です。内訳は、正確一致トリガー・言い換えトリガー・隣接スキル境界・無関係な非トリガーの4種類です。

カテゴリ目的1スキルあたりの目安
A: 正確一致トリガーdescriptionが想定する言葉をそのまま使う3〜4問
B: 言い換えトリガー同じ依頼を別の言葉で書く3〜4問
C: 隣接スキル境界似た業務ドメインの別スキルと紛れる言い方4〜5問
D: 非トリガー全く関係ない依頼で誤発火しないか確かめる2〜3問

59本×15問はおよそ885問になります。数として成立するのはここまでで、実行して初めて正答率が言えます。この記事は設計図であって、完了報告ではありません。

発火精度テストの設計サイクルは、5段階をどう回って改訂に戻るか 発火精度テストの設計サイクルを表す図。①59本の説明文を洗い出す、②衝突しやすいスキルの組をペアリングする、③正確一致・言い換え・隣接境界・非トリガーのA〜D4種の質問を1組ずつ作る、④フレッシュなサブエージェントで1問ずつ独立実行し文脈を持ち越さない、⑤命中率を集計しdescriptionを直す、の5段階を円環で示す。⑤から①へ破線の矢印で戻り、改訂のたびに同じサイクルを繰り返す。 CYCLE 発火精度テストを設計から反復までつなぐ5段階ループ 改訂して①へ戻る ①棚卸し 出力:59本の一覧 ②ペアリング 出力:衝突ペア表 ③質問4種作成 出力:885問 ④独立実行 出力:合否記録 ⑤集計改訂 出力:命中率→改訂 A B C D 文脈ゼロで実行 1周ごとにdescriptionを直し、また①から回す設計
発火精度テストを設計から反復までつなぐループ図

05テスト質問の作り方|発火精度を落とす2組で試す4パターン

設計を具体化します。ペアは、監査で見つかった衝突候補からそのまま選びます。ここではvault-auditとsafety-auditの組で、4パターンの質問例を示します。

カテゴリ質問例想定される発火先
A: 正確一致「Vault監査して」vault-audit
A: 正確一致「セキュリティ監査して」safety-audit
B: 言い換え「フォルダ構造おかしくなってないか見て」vault-audit
B: 言い換え「ガードレール整備して」safety-audit
C: 隣接境界「監査して」(対象を言わない一言)除外文の書き方次第
D: 非トリガー「今日のランチどこがいい?」どちらも発火しない

Cの「監査して」だけを渡す一言は、もっとも情報が薄い依頼です。ここでどちらが発火するかは、descriptionの除外文がどちらを優先させているかで決まります。フレッシュなセッションで実行し、前のやり取りを残さないことが公式手順の条件です(出典: Agent Skills公式)。

diagram-maker・html-diagram-explainer・seo-article・proposal-draftの組でも、同じ形で質問を作れます。59本を総当たりにはせず、業務ドメインが近い組から優先して埋めるのが現実的です。

06誤発火を防ぐ運用ルール|トリガー精度を落とさない書き方

書き方の基本は3つです。三人称で書く、何をするか・いつ使うかの両方を先に書く、曖昧な言い回しを避けることです(出典: Agent Skills公式ベストプラクティス)。「資料を処理します」のような一般的すぎる説明は、公式が避けるべき例として挙げています。

似た業務のスキルが並ぶ場所では、除外文が効きます。「◯◯がしたいときは代わりに××を使う」と書くだけで、判断の分かれ目がAI側にも見えるようになります。WEBMARKSの59本では、この書き方をしているのがまだ9本にとどまっています。

名前だけで説明文が消えている24本は、書き方の問題ではありません。呼び出し頻度が上がって一覧に残るか、予算の設定自体を見直すかのどちらかです。原因が違えば、直す場所も違います。

説明文の表示×衝突の有無で、59本はどの4象限に分かれるか WEBMARKS運用スキル59本を、横軸『説明文の表示有無』・縦軸『近接ドメインとの衝突有無』でマトリクスに分ける図。表示×衝突あり×除外文ありはvault-audit等5組で現状維持でよい。表示×衝突あり×除外文なしはdiagram-makerとhtml-diagram-explainerの組で、diagram-maker側への追記が必要になる。表示×衝突なしの単独スキルは対応不要。非表示の24本は比較の土俵に乗らず、呼び出し頻度や予算設定の見直しが要る。 MATRIX 説明文の表示×衝突の有無で、59本はどの4象限に分かれるか 縦軸=近接ドメインの有無/横軸=一覧表示の有無 表示 35本 非表示 24本 ①衝突あり×除外文あり vault-audit×safety-audit等5組 次の一手:現状維持(書き分け済み) ②衝突あり×除外文なし(非対称) diagram-maker:除外文なし html-diagram-explainer:除外文あり 次の一手:diagram-makerに追記 ③単独(衝突候補なし) 近くに衝突候補スキルが無い 次の一手:対応不要(現状維持) ④非表示・比較対象外 24 説明文が無く、比較に入らない 次の一手:呼び出し頻度・予算設定を確認 実線=一覧に表示中 破線=比較の土俵外(非表示) 「表示されているか」だけでは対応は決まらない。次の一手は象限で変わる。
WEBMARKS 59本を、横軸『一覧にdescriptionが表示されているか(表示35本/非表示24本)』・縦軸『近接ドメインに他スキルが並んでいるか(単独/衝突候補あり)』とした比較軸マトリクスで4象限に配置する

07つまずきやすい点|発火精度の数字だけを見て安心しない

  • 高い命中率が出ても、フレッシュなセッションで測っていなければ参考になりません。開発中の文脈が残ったままだと、本番では再現しない数字になります(出典: Agent Skills公式)。
  • 発火しないスキルが全部「description不足」とは限りません。disable-model-invocation: true を設定した手動専用スキルも、同じように見えます(出典: Claude Code公式ドキュメント)。
  • 質問を作った人が採点も兼ねると、期待値に寄った判定になりがちです。命中の判定は、質問を作った人と別の目で見るほうが安全です。
  • 名前だけで説明文が消えている24本は、質問を作る前に原因の切り分けが要ります。「壊れていない」と決めつける前に実物を確かめる姿勢は、『AI運用の障害切り分け|更新時刻を犯人にしない4段の手順』で扱った教訓と同じです。

08同じ勘違いをしないためのチェックリスト

  • descriptionを三人称・具体語で書き、何をするか・いつ使うかの両方を入れたか
  • 似た業務のスキルには「代わりに◯◯を使う」の除外文を入れたか
  • 一覧で名前だけになっているスキルがないか確認したか
  • テスト質問は正確一致・言い換え・隣接境界・非トリガーの4種類で作ったか
  • 採点は質問を作った人と別の目で行っているか
  • フレッシュなセッションで実行し、前のやり取りの文脈を残していないか
  • 数字を報告する前に、実行ログ(evals.json・grading.jsonなど)を残したか

09FAQ

885問はいつ実行されるのか

現時点では未実行です。実行し次第この記事を更新し、正答率と実行日を追記します。

スキルが多いほど誤発火は増えるのか

一概には言えません。むしろ、似た業務ドメインに複数並ぶ場所でだけ起きやすい問題です。今回の監査でも、除外文が要るのは近接ドメインの9本に集中していました。

テスト質問は人が作るしかないのか

skill-creatorプラグインのdescription tuningは、発火すべき文とすべきでない文を自動生成する機能を持っています(出典: Claude Code公式ドキュメント)。ゼロから人力で885問を書く必要はありません。

59本という数はどこまで正確か

WEBMARKSがClaude Code環境で運用する業務スキルを2026-07-28時点で数えた値です。プラグイン同梱の汎用スキルは含みません。新しいスキルが増減すれば、この数字も変わります。スキルという概念自体は『AIエージェントとは|そう呼べる3条件と、呼べない境界』で扱った3層構造の「単発実行」に近い位置づけです。