O que uma avaliação de IA realmente mede
Uma nota de benchmark mede o desempenho em um teste específico, segundo as regras de pontuação dele. Ela não comprova que um modelo vai funcionar com os seus documentos nem que vai tomar as decisões que o seu negócio precisa. Antes de comprar, defina o que é um resultado correto nos seus próprios casos, mantenha um conjunto de teste nunca visto e examine os erros, não apenas a
A barra mais alta do gráfico de um fornecedor pode estar correta e ainda assim deixar a sua pergunta de compra sem resposta. Um modelo que vence em questões matemáticas pode ter dificuldade com as abreviações dos seus chamados de suporte. Um extrator de documentos pode ir bem com faturas limpas e falhar nas digitalizações que a sua equipe de
Essa distância não é desonestidade de marketing. É um problema de medição, e ele foi documentado com cuidado suficiente para que você mesmo
Um benchmark é um instrumento, e instrumentos precisam de validação
Nas ciências que medem coisas que não se veem diretamente, um instrumento de medição precisa conquistar confiança. A propriedade medida precisa estar definida, e o teste precisa medir essa propriedade, e não algo apenas correlacionado a ela. A psicometria chama essa relação de validade de construto. As estimativas de incerteza respondem a outra pergunta: qual é a precisão
Benchmarks de modelos de linguagem são instrumentos desse tipo. “Raciocínio” e “utilidade” não são diretamente observáveis, então um benchmark faz as vezes deles. Em 2025, uma equipe de 29 revisores examinou a força dessa relação em 445 benchmarks extraídos de conferências de ponta em processamento de linguagem natural e aprendizado de máquina, num trabalho publicado na trilha Datasets and Benchmarks da
Vale ler os números
- 16,0% usaram testes estatísticos ou estimativas de incerteza para comparar resultados. Uma diferença informada sem essas verificações pode significar menos do que parece.
- 47,8% dos benchmarks que chegaram a definir o seu alvo mediam um fenômeno controverso, ou seja, algo cuja definição a área não tem consenso.
- 81,3% usaram correspondência exata em pelo menos parte da pontuação, e 40,7% a usaram exclusivamente. Isso pode servir para um rótulo ou um número preciso; para uma resposta aberta, pode rejeitar uma resposta válida formulada de outro jeito.
- 42,6% reaproveitaram itens de benchmarks existentes. O reaproveitamento pode transportar adiante tanto as limitações de um teste quanto as suas comparações úteis.
Nada disso significa que os benchmarks não valem nada. Significa que uma nota de benchmark é uma afirmação mais fraca do que parece, e a força dessa afirmação raramente aparece ao
O problema da contaminação deixa o número ainda mais frágil
Um teste de desempenho em exemplos não vistos depende de que esses exemplos continuem não vistos. Com corpora de treinamento grandes e parcialmente não divulgados, isso é difícil
Pesquisadores da Universidade Jiao Tong de Xangai testaram 31 modelos em busca de indícios de vazamento de benchmark no GSM8K e no MATH, dois conjuntos de dados de raciocínio matemático. Cerca de metade apresentou sinais compatíveis com exposição a dados dos benchmarks. O procedimento de detecção deles amostrou cinco posições iniciais por exemplo e testou a previsão dos trechos de cinco tokens seguintes. O Qwen-1.8B previu corretamente todos os trechos amostrados em 223 exemplos do conjunto de treinamento do GSM8K, 67 exemplos do conjunto de treinamento do MATH e 25 exemplos do conjunto de teste
Esses são indicadores de possível exposição, não um registro completo daquilo com que os modelos foram treinados. A memorização pode inflar uma nota, dificultando separar a familiaridade com o teste da capacidade de resolver um caso novo. Isso não estabelece que o modelo não tenha nenhuma capacidade útil fora
Como isso aparecia na pesquisa
O meu doutorado tratou de fazer modelos pré-treinados executarem tarefas visuais para as quais nunca foram treinados, sem exemplos rotulados: encontrar correspondências semânticas com um modelo de difusão na NeurIPS 2023 e depois pontos-chave a partir da mesma classe de modelo na conferência Computer Vision and Pattern Recognition de 2024. Os dois foram medidos em benchmarks rotulados padrão, porque é assim que a área
Esses números eram reais e as comparações eram justas. Mas eles também não respondiam à pergunta que uma empresa faria: se o método funciona com as imagens dela, na resolução dela, com a iluminação dela, segundo a definição dela de resposta correta. Desempenho em benchmark e desempenho em produção são medições diferentes. Quem já levou um modelo de um artigo para um produto viu
Construa uma avaliação em torno da sua decisão
A solução começa pelos seus próprios casos. Antes de se comprometer com um sistema de IA, reúna exemplos da sua operação e rotule à mão o resultado correto. Assim, a avaliação passa a ter uma tarefa e uma definição de sucesso que pertencem ao
Tire amostras da realidade, não dos casos fáceis. Pegue leads reais, chamados reais, faturas reais, fotos reais, incluindo os malformados. Um conjunto tirado só de exemplos limpos mede um sistema que você
Escolha o tamanho da amostra de acordo com a decisão. Comece com casos que sua equipe consiga rotular com cuidado e depois dimensione a avaliação conforme a diferença de desempenho que precisa detectar e o risco de chegar a uma conclusão errada. As orientações do NIST sobre testes de proporções deixam essas escolhas explícitas. Uma quantidade conveniente de exemplos não prova, por si só, que o teste possa responder à
Escreva o que significa correto antes de olhar qualquer resultado. Duas pessoas da mesma equipe muitas vezes discordam sobre se um lead era qualificado ou se um documento foi arquivado corretamente. Resolver essa discordância no papel vale a pena comprando algo ou não, e fazer isso depois significa que a definição se dobra para caber
Rotule os casos ambíguos como ambíguos. Forçar uma resposta binária num caso que a sua própria equipe escalaria cria um teste que pune o
Guarde uma parte. Mantenha uma porção que ninguém que constrói ou ajusta o sistema veja, incluindo o seu fornecedor. Isso dá a você uma estimativa mais limpa do desempenho em casos novos. A utilidade dessa parte ainda depende de uma amostragem representativa, de rótulos confiáveis e de exemplos suficientes para sustentar
Revise as divergências entre seus próprios rotuladores. A concordância mede a consistência com que as pessoas rotulam os mesmos casos; a acurácia compara as respostas com uma referência. Resolva os rótulos em disputa ou marque os casos como ambíguos antes de usá-los para avaliar o sistema. Para comparar as pessoas com o modelo, avalie ambos com as mesmas respostas revisadas e a mesma métrica. A taxa de concordância entre rotuladores, sozinha, não estabelece desempenho de nível humano nem prova que um fornecedor viu as respostas
Um caso, com uma definição utilizável de correto
Suponha que você esteja avaliando um assistente que encaminha chamados de faturamento e rascunha respostas. Este é um exemplo ilustrativo, não um resultado
| Parte da avaliação | O que o revisor registra |
|---|---|
| Mensagem do cliente | “Meu banco mostra duas cobranças para um só pedido. Uma está pendente e a outra está concluída.” |
| Encaminhamento esperado | Revisão de faturamento. A mensagem, por si só, não comprova duas cobranças efetivadas. |
| Rascunho aceitável | Reconhecer a preocupação, distinguir o lançamento pendente da cobrança concluída e informar que o faturamento vai verificar o registro de pagamento. |
| Falha | Prometer um reembolso ou afirmar que o cliente foi cobrado duas vezes sem verificar o registro. |
Um rotulador pode inicialmente marcar “reembolso necessário” enquanto outro marca “revisão de pagamento”. Resolva essa divergência em relação à política de pagamentos antes de pontuar o modelo. Se o registro disponível não permitir decidir, o resultado correto é escalar, não forçar
Uma resposta pode soar excelente e ainda assim falhar nesse caso. Ao longo do conjunto de avaliação, registre separadamente as promessas de reembolso sem respaldo e os encaminhamentos errados: esses erros têm consequências diferentes. Combinem quais erros impedem o uso automático e quais permitem um rascunho revisado por uma pessoa. Depois, julgue o candidato nos casos não vistos segundo essas mesmas regras. A nota média não deveria esconder o erro que torna a
O que perguntar a um fornecedor
As perguntas úteis são sobre o método, não sobre
Pergunte em que o número informado foi medido e se o sistema foi ajustado nesses mesmos dados. Peça para ver as falhas, agrupadas pelas consequências que têm para o seu fluxo de trabalho. Forneça casos que o fornecedor nunca viu. Peça estimativas de incerteza e repetições das execuções nos casos em que as respostas do sistema variam. Repetir o mesmo teste não representativo não corrige a
Um fornecedor que consegue responder a isso está fazendo o trabalho. Um fornecedor que responde só com uma posição num ranking disse onde está no teste de
Como aplicamos isso
Os fluxos de trabalho do nosso catálogo de sistemas de IA exigem testes diferentes: extrair corretamente um documento e qualificar corretamente um lead são resultados diferentes. Em qualquer dos dois casos, o escopo da implementação deve especificar os casos reais usados na aceitação, quem revisa as respostas esperadas e o que acontece quando o
Nossa AI Opportunity Audit é o trabalho de planejamento: um inventário de fluxos de trabalho, cálculos de ROI, decisões entre desenvolver ou comprar, um mapa de dados e acessos e um roteiro de 90 dias. Esse plano deve deixar explícito o trabalho de avaliação antes que uma estimativa de horas economizadas se torne o motivo
A avaliação também é o que dá sentido a um limite de interrupção por escrito. Combinar de antemão parar num nível definido de desempenho é uma promessa vazia sem uma forma combinada de medir
Fontes
- Measuring what Matters: Construct Validity in Large Language Model Benchmarks, trilha Datasets and Benchmarks da NeurIPS 2025: arxiv.org/abs/2511.04703
- Benchmarking Benchmark Leakage in Large Language Models, Xu, Wang, Fan e Liu: arxiv.org/html/2404.18824v1