AI評価が実際に測っているもの

ベンダーの資料でいちばん高く伸びている棒グラフは、正確であっても、あなたの購買判断の問いには答えていないことがあります。数学の問題で首位を取るモデルが、自社のサポートチケットに出てくる略語には手を焼くかもしれません。文書の読み取りシステムが、きれいな請求書ではよい成績を出し、現場のチームが実際に受け取るスキャン画像では失敗するかもしれません。

この隔たりはマーケティングの不誠実さではありません。測定の問題であり、あなた自身で確認できるほど丁寧に記録されています。

ベンチマークは測定器であり、測定器には検証が必要

直接見ることのできないものを測る科学では、測定器が信頼を得なければなりません。測る性質が定義されていなければならず、テストはそれと相関する別の何かではなく、その性質そのものを測っていなければなりません。心理測定学では、この関係を構成概念妥当性と呼びます。不確実性の推定は別の問いに答えるものです。すなわち、その結果はどれだけ精密なのか、という問いです。

言語モデルのベンチマークは、まさにこの種の測定器です。「推論」や「有用性」は直接観察できないので、ベンチマークがその代わりを務めます。2025年、29人のレビュアーからなるチームが、自然言語処理と機械学習の主要な学会から集めた445件のベンチマークについて、この関係の強さを検討しました。この研究はNeurIPS 2025のDatasets and Benchmarksトラックで発表されています。

数字はゆっくり読む価値があります。

• 16.0% が、結果を比較するために統計的検定または不確実性の推定を用いていました。こうした確認を伴わずに報告された差は、見た目ほどの意味を持たない可能性があります。
• 目標を定義していたベンチマークのうち 47.8% は、議論のある現象、つまり分野内で定義について合意のないものを測っていました。
• 81.3% が採点の少なくとも一部に完全一致を用いており、40.7%はそれだけを用いていました。これは厳密なラベルや数値には適しますが、自由記述の回答では、言い回しが違うだけの正しい答えを誤りとして扱いかねません。
• 42.6% が既存のベンチマークから問題を再利用していました。再利用は、有用な比較可能性とともに、そのテストの限界も引き継ぐことがあります。

だからといって、ベンチマークに価値がないわけではありません。ベンチマークのスコアは見た目より弱い主張であり、その主張の強さが併記されることはめったにない、ということです。

汚染の問題が数字をさらに頼りないものにする

未見の事例に対する性能のテストは、その事例が未見のままであることに依存します。大規模で、一部が非公開の学習用コーパスのもとでは、それを確かめるのは困難です。

上海交通大学の研究者たちは、数学的推論のデータセットであるGSM8KとMATHについて、31のモデルにベンチマークの漏洩の証拠があるかをテストしました。約半数に、ベンチマークのデータに触れていたことと整合する兆候が見られました。検出の手順では、各例について五つの開始位置を抽出し、それに続く五トークンの並びを予測できるかをテストしています。Qwen-1.8Bは、GSM8Kの学習用データ223例、MATHの学習用データ67例、MATHのテスト用データ25例で、抽出されたすべての並びを正しく予測しました。

これらは露出の可能性を示す指標であり、モデルが何で学習したのかを網羅的に記録したものではありません。暗記はスコアを押し上げ、テストへの馴染みと新しい事例を解く能力を切り分けにくくします。一方で、そのテストの外側でモデルに有用な能力がないことを示すものでもありません。

研究の現場ではどう見えたか

私の博士研究は、事前学習済みのモデルに、ラベル付きの例なしで、学習したことのない視覚タスクをこなさせることでした。まずNeurIPS 2023で拡散モデルを使った意味的対応点の発見を、次に2024年のComputer Vision and Pattern Recognition会議で同じ種類のモデルからのキーポイント抽出を発表しました。どちらも標準的なラベル付きベンチマークで測定しました。分野が手法を比較する方法がそれだからです。

その数字は本物で、比較は公正でした。それでも、企業が知りたい問いには答えられませんでした。その手法が自社の画像で、自社の解像度で、自社の照明条件で、自社の正解の定義のもとで機能するのか、という問いです。ベンチマークでの性能と実運用での性能は別の測定です。論文から製品へモデルを移したことのある人なら、この隔たりを見てきたはずです。

自社の判断を軸に評価を組み立てる

改善は自社の事例から始まります。AIシステムの導入を決める前に、自社業務の事例を集め、正しい結果を手作業でラベル付けしてください。これにより、自社の業務に属するタスクと成功の定義に基づいて評価できます。

簡単な事例ではなく、現実からサンプルを取る。 実際のリード、実際のチケット、実際の請求書、実際の写真を、形式の崩れたものも含めて集めます。きれいな例だけで作ったセットは、あなたが持っていないシステムを測ることになります。

判断に合わせてサンプルサイズを決める。 チームが丁寧にラベル付けできる事例から始め、検出する必要がある性能差と、誤った結論を出すリスクに合わせて評価の規模を決めてください。NISTの比率検定に関する指針では、これらの選択が明示されています。扱いやすい件数を用意しただけでは、そのテストで自社の問いに答えられる根拠にはなりません。

出力を見る前に、何が正解かを書き出す。 同じチームの二人でも、あるリードが見込みのあるものだったか、ある書類が正しく処理されたかについて意見が割れることはよくあります。その不一致を紙の上で解消することは、何かを買うかどうかにかかわらず価値があります。後からやると、定義が結果に合わせて曲がってしまいます。

曖昧な事例は曖昧としてラベル付けする。 自社のチームならエスカレーションするような事例に二択の答えを押しつけると、正しい振る舞いを罰するテストになります。

一部を取っておく。 システムを構築したり調整したりする人には、ベンダーも含めて誰にも見せない部分を残しておきます。これにより、新しい事例での性能をより偏りなく推定できます。ただしその有用性は、代表性のあるサンプリング、信頼できるラベル、そして判断を支えるのに十分な件数に依存します。

自社のラベル付け担当者間の不一致を確認する。 一致度は、同じ事例に対して人がどれだけ一貫してラベルを付けるかを測ります。正解率は、回答を参照となる正解と比較します。システムの評価に使う前に、争点となっているラベルを解決するか、事例を曖昧なものとして印をつけてください。人とモデルを比べるには、同じ確認済みの正解に対して、同じ指標で両者を評価します。担当者間の一致率だけでは、人間並みの性能を示すことも、ベンダーがテストの正解を見たと証明することもできません。

一つの事例と、使える正解の定義

請求関連のチケットを振り分け、返信の下書きを作るアシスタントを評価しているとしましょう。これは説明のための例であり、クライアントの実績ではありません。

ラベル付け担当者の一人は最初に「返金が必要」と記録し、別の担当者は「決済の確認」と記録するかもしれません。モデルを採点する前に、その不一致を決済ポリシーに照らして解消してください。入手できる記録では決着しない場合、正しい結果は無理な推測ではなくエスカレーションです。

返信が立派に聞こえても、この事例では失敗していることがあります。評価セット全体では、裏づけのない返金の約束を、振り分け先の誤りとは別に記録してください。この二つの誤りは結果が異なります。どの誤りが自動運用を妨げ、どの誤りなら人が確認する下書きとして許容できるのかを合意してください。そのうえで、候補となるシステムを、同じルールで未見の事例について判断します。平均スコアが、導入を受け入れられなくするような誤りを隠してはいけません。

ベンダーに尋ねるべきこと

役に立つ質問は、スコアではなく方法についてのものです。

報告された数字が何で測定されたのか、そしてシステムがその同じデータで調整されたのかを尋ねてください。失敗した事例を見せてもらい、自社の業務フローにとっての結果の重さごとに分類してもらってください。ベンダーが一度も見たことのない事例を渡してください。不確実性の推定を求め、システムの回答がばらつく場合は実行を繰り返してもらってください。代表性のない同じテストを繰り返しても、その網羅性は改善しません。

これらに答えられるベンダーは、きちんと仕事をしています。ランキングの順位だけで答えるベンダーは、他人のテストで自分が何位かを伝えたにすぎません。

当社での実践

当社のAIシステムのカタログにある業務フローは、それぞれ異なるテストを必要とします。文書を正しく読み取ることと、リードを正しく見極めることは別の成果です。いずれの場合も、構築の作業範囲で、受け入れ判定に使う実際の事例、期待される正解を誰が確認するのか、そしてシステムが失敗したときにどうするのかを定める必要があります。

当社のAI Opportunity Auditは計画策定のためのサービスです。業務フローの棚卸し、ROIの計算、開発か購入かの判断、データとアクセス権の整理、90日間のロードマップを提供します。その計画では、削減できる時間の見積もりが購入の理由になる前に、評価の作業を明示しておくべきです。

評価は、書面で定めた中止基準に意味を持たせるものでもあります。定められた性能水準で止めると事前に合意しても、性能を測る方法について合意がなければ空約束です。

出典

• Measuring what Matters: Construct Validity in Large Language Model Benchmarks、NeurIPS 2025 Datasets and Benchmarksトラック: arxiv.org/abs/2511.04703
• Benchmarking Benchmark Leakage in Large Language Models、Xu、Wang、Fan、Liu: arxiv.org/html/2404.18824v1