一次 AI 评估实际度量什么

供应商图表中最高的那根柱子可能是准确的，却仍然没有回答你的采购问题。在数学题上胜出的模型，可能应付不了你客服工单里的缩写。一个文档提取工具可能在干净的发票上表现良好，却在你团队实际收到的扫描件上失败。

这种差距并非源于营销欺骗。它是测量问题，而且已经被足够仔细地记录下来，你可以自己去核查。

基准是一种仪器，而仪器需要验证

在那些度量你无法直接观察之物的学科里，测量仪器必须先赢得信任。被度量的属性必须被定义，测试必须度量的是该属性，而不是仅仅与之相关的别的东西。心理测量学把这种关系称为构念效度。不确定性估计回答的是另一个问题：结果有多精确？

语言模型基准正是这类仪器。「推理」与「有帮助」不可直接观察，因此基准代替它们。2025 年，一支 29 人的评审团队在来自领先自然语言处理与机器学习会议的 445 个基准上检验了这种关系的强度，该工作发表于 NeurIPS 2025 Datasets and Benchmarks 赛道。

这些数字值得仔细看：

• 16.0% 使用统计检验或不确定性估计来比较结果。缺少这些检查的所报差异，可能不如看上去那样有意义。
• 在那些对度量目标给出任何定义的基准中，47.8% 度量的是有争议的现象，也就是该领域对其定义尚未达成一致的东西。
• 81.3% 的基准在至少一部分计分中使用精确匹配；完全只用精确匹配的基准占总数的 40.7%。这可以适合精确的标签或数字；但对于开放式回答，它可能把措辞不同却有效的答案判为错误。
• 42.6% 复用了现有基准中的题目。复用既可能延续一个测试有用的可比性，也会延续它的局限。

这些都不意味着基准毫无价值。它意味着基准分数是一个比表面看起来更弱的主张，而主张的强度很少与之一同陈述。

污染问题使这个数字更加不牢靠

在未见样例上度量表现的测试，前提是确保这些样例未被模型见过。面对庞大且部分未公开的训练语料，这一点很难确立。

上海交通大学的研究人员在 GSM8K 与 MATH 这两个数学推理数据集上，对 31 个模型检验了基准泄漏的证据。约有一半显示出与接触过基准数据相符的迹象。他们的检测流程为每个样例抽取五个起始位置，并测试模型能否预测紧随其后、由五个词元组成的片段。Qwen-1.8B 在 223 个 GSM8K 训练样例、67 个 MATH 训练样例和 25 个 MATH 测试样例中，正确预测了所有被抽取的片段。

这些是可能接触过基准数据的指标，而不是模型训练内容的完整记录。记忆会抬高分数，使人更难把对测试的熟悉与解决新案例的能力区分开。它并不能证明模型在该测试之外没有有用的能力。

这在研究中是什么样

我的博士工作是让预训练模型去做它们从未被训练过的视觉任务，而且不需要标注样例：在 NeurIPS 2023 上用扩散模型寻找语义对应，再在 2024 年的计算机视觉与模式识别会议上从同一类模型中得到关键点。两者都是对照标准的标注基准来度量的，因为那是该领域比较方法的方式。

那些数字是真实的，比较也是公平的。但它们无法回答一家公司会问的问题：这个方法是否在他们的图像上、以他们的分辨率、他们的光照条件、以及他们对正确答案的定义下奏效。基准表现与部署表现是不同的测量。任何把模型从论文搬到产品的人都见过这个缺口。

围绕你的决策构建评估

改进从你自己的案例开始。在决定采用一套 AI 系统之前，从你的实际运营中收集样例，并手工标注正确结果。这样，评估才有属于你业务的任务和成功定义。

从现实抽样，而不是从容易的案例抽样。 拉取真实线索、真实工单、真实发票、真实照片，也包括格式有问题的样例。只从干净样例抽出的集合，度量的是你并不拥有的那套系统。

根据决策需要选择样本量。 先从团队能够认真标注的案例开始，再根据你需要识别出的性能差异以及得出错误结论的风险来确定评估规模。NIST 关于比例检验的指南把这些选择说得很明确。案例数量便于处理，本身并不能证明这项测试能够回答你的问题。

在看任何输出之前，先写下正确意味着什么。 同一团队里的两个人经常对一条线索是否合格、一份文档是否正确归档意见不一。无论你最终是否购买任何东西，把这种分歧在纸上解决都值得做；事后再做，意味着正确性的定义会被调整来迎合结果。

把模糊的案例标为模糊。 把你自己团队会升级处理的案例强行压成二元答案，会构建出一个惩罚正确行为的测试。

留出一部分。 保留一部分，不让任何构建或调优系统的人见到，包括你的供应商。它能让你对新案例上的表现有更干净的估计。它的用处仍然取决于抽样是否有代表性、标注是否可靠，以及样例是否足以支撑这项决策。

复核你自己标注者之间的分歧。 一致性衡量不同人员对同一批案例的标注是否一致；准确率则把答案与参考答案进行比较。在用这些案例评判系统之前，应解决有争议的标注，或把案例标为模糊。要比较人与模型，应使用同一批经过复核的答案和同一个指标来评估双方。仅凭标注者之间的一致率，既不能认定系统达到人类水平，也不能证明供应商看过测试答案。

一个案例：明确什么才算正确

假设你在评估一个为账单工单做分流并起草回复的助手。这是一个示意性示例，不是客户成果。

一名标注者可能起初标为「需要退款」，另一名标为「支付复核」。在给模型评分之前，应依据支付政策解决这一分歧。如果现有记录无法判定，正确的结果是升级处理，而不是强行猜测。

一条回复可以听起来很出色，却仍然在这个案例上失败。在整个评估集中，应把没有依据的退款承诺与错误分流分开记录：这两类错误后果不同。要约定哪些错误使系统不能自动使用，哪些错误允许生成一份由人工复核的草稿。然后用同样的规则，在未见案例上评判候选系统。平均分不应掩盖那个让部署无法接受的错误。

向供应商问什么

有用的问题关乎方法，而不是分数。

问所报的数字是在什么上度量的，以及系统是否在同一份数据上调优过。要求查看失败案例，并按它们对你工作流程造成的后果分组。提供供应商从未见过的案例。索要不确定性估计，并在系统答案会变化时要求重复运行。重复同一个不具代表性的测试，并不能修正它的覆盖面。

能回答这些问题的供应商，是真正在认真做评估这件事。只以排行榜位置回应的供应商，告诉你的只是他们在别人的测试上排在哪里。

我们如何应用

我们AI 系统目录中的各类工作流需要不同的测试：正确提取一份文档与正确判定一条线索是否合格，是不同的结果。无论哪一种，实施范围都应明确用于验收的真实案例、由谁复核预期答案，以及系统失败时会发生什么。

我们的AI 机会审计是规划阶段的服务：工作流清单、ROI 计算、自建还是采购的判断、数据与访问权限图谱，以及一份 90 天路线图。这份计划应当在「节省多少工时」的估算成为购买理由之前，先把评估工作讲清楚。

评估也正是让书面叫停阈值有意义的东西。事先约定在某一确定的表现水平停止，如果没有约定好的度量方式，就是一句空话。

来源

• Measuring what Matters: Construct Validity in Large Language Model Benchmarks, NeurIPS 2025 Datasets and Benchmarks track：arxiv.org/abs/2511.04703
• Benchmarking Benchmark Leakage in Large Language Models, Xu, Wang, Fan and Liu：arxiv.org/html/2404.18824v1