Was eine KI-Evaluation tatsächlich misst
Ein Benchmark-Wert misst die Leistung in einem bestimmten Test, nach dessen Bewertungsregeln. Er belegt nicht, dass ein Modell mit Ihren Dokumenten funktioniert oder die Entscheidungen trifft, die Ihr Unternehmen braucht. Definieren Sie vor dem Kauf, was ein richtiges Ergebnis in Ihren eigenen Fällen ist, halten Sie einen ungesehenen Testsatz zurück und prüfen Sie die Fehler, nicht nur
Der höchste Balken in der Präsentation eines Anbieters kann korrekt sein und Ihre Kauffrage dennoch unbeantwortet lassen. Ein Modell, das bei mathematischen Aufgaben vorn liegt, kann mit den Abkürzungen in Ihren Support-Tickets Mühe haben. Ein Extraktor für Dokumente kann bei sauberen Rechnungen gut abschneiden und bei den Scans scheitern, die Ihr Team
Diese Lücke ist keine Unehrlichkeit des Marketings. Sie ist ein Messproblem, und sie ist sorgfältig genug dokumentiert, dass Sie selbst danach
Ein Benchmark ist ein Instrument, und Instrumente müssen validiert werden
In den Wissenschaften, die Dinge messen, die man nicht direkt sehen kann, muss sich ein Messinstrument Vertrauen verdienen. Die gemessene Eigenschaft muss definiert sein, und der Test muss diese Eigenschaft messen und nicht etwas, das lediglich mit ihr korreliert. Die Psychometrie nennt diesen Zusammenhang Konstruktvalidität. Unsicherheitsschätzungen beantworten eine andere Frage: Wie präzise ist
Benchmarks für Sprachmodelle sind Instrumente dieser Art. „Schlussfolgern“ und „Hilfsbereitschaft“ sind nicht direkt beobachtbar, also steht ein Benchmark stellvertretend für sie. 2025 hat ein Team von 29 Gutachtern die Stärke dieses Zusammenhangs über 445 Benchmarks aus führenden Konferenzen zu Sprachverarbeitung und maschinellem Lernen hinweg untersucht, in einer Arbeit, die im Datasets and Benchmarks Track der NeurIPS 2025
Diese Zahlen verdienen eine
- 16,0 % nutzten statistische Tests oder Unsicherheitsschätzungen, um Ergebnisse zu vergleichen. Ein berichteter Unterschied ohne diese Prüfungen kann weniger aussagekräftig sein, als er wirkt.
- 47,8 % der Benchmarks, die ihr Ziel überhaupt definierten, maßen ein umstrittenes Phänomen, also etwas, dessen Definition in der Fachwelt nicht geklärt ist.
- 81,3 % bewerteten mindestens einen Teil der Antworten über exakten Abgleich, und 40,7 % nutzten ausschließlich dieses Verfahren. Für ein eindeutiges Label oder eine Zahl kann das passend sein; bei einer freien Antwort kann es eine gültige, anders formulierte Antwort zurückweisen.
- 42,6 % verwendeten Aufgaben aus bestehenden Benchmarks wieder. Eine Wiederverwendung kann neben den nützlichen Vergleichsmöglichkeiten auch die Grenzen eines Tests weitertragen.
Das heißt nicht, dass die Benchmarks wertlos sind. Es heißt, dass ein Benchmark-Wert eine schwächere Aussage ist, als er wirkt, und dass die Stärke der Aussage
Das Kontaminationsproblem macht die Zahl noch weicher
Ein Test der Leistung an ungesehenen Beispielen setzt voraus, dass diese Beispiele ungesehen bleiben. Bei großen, teils nicht offengelegten Trainingskorpora lässt sich das
Forschende der Shanghai Jiao Tong University testeten 31 Modelle auf Anzeichen von Benchmark-Leakage bei GSM8K und MATH, zwei Datensätzen für mathematisches Schlussfolgern. Etwa die Hälfte zeigte Anzeichen, die mit einer Berührung mit Benchmark-Daten vereinbar sind. Ihr Erkennungsverfahren zog pro Beispiel fünf Startpositionen als Stichprobe und prüfte die Vorhersage der jeweils folgenden Spannen von fünf Tokens. Qwen-1.8B sagte in 223 Trainingsbeispielen von GSM8K, 67 Trainingsbeispielen von MATH und 25 Testbeispielen von MATH alle gezogenen Spannen
Das sind Indikatoren für eine mögliche Berührung, keine vollständige Aufzeichnung dessen, worauf die Modelle trainiert wurden. Auswendiglernen kann einen Wert nach oben treiben und erschwert es, Vertrautheit mit dem Test von der Fähigkeit zu trennen, einen neuen Fall zu lösen. Es belegt nicht, dass das Modell außerhalb dieses Tests keine nützliche
Wie das in der Forschung aussah
In meiner Promotion ging es darum, vortrainierte Modelle ohne annotierte Beispiele visuelle Aufgaben lösen zu lassen, für die sie nie trainiert wurden: das Finden semantischer Korrespondenzen mit einem Diffusionsmodell auf der NeurIPS 2023, dann Keypoints aus derselben Modellklasse auf der Konferenz Computer Vision and Pattern Recognition 2024. Beide wurden an annotierten Standard-Benchmarks gemessen, weil die Fachwelt Methoden
Diese Zahlen waren echt, und die Vergleiche waren fair. Sie konnten aber nicht die Frage beantworten, die ein Unternehmen stellen würde: ob die Methode mit seinen Bildern funktioniert, in seiner Auflösung, bei seiner Beleuchtung, nach seiner Definition einer richtigen Antwort. Benchmark-Leistung und Leistung im Einsatz sind unterschiedliche Messungen. Wer ein Modell schon einmal vom Paper in ein Produkt gebracht hat, hat diese
Bauen Sie die Evaluation um Ihre Entscheidung herum
Die Lösung beginnt mit Ihren eigenen Fällen. Bevor Sie sich auf ein KI-System festlegen, sammeln Sie Beispiele aus Ihrem Betrieb und annotieren das richtige Ergebnis von Hand. So erhält die Evaluation eine Aufgabe und eine Erfolgsdefinition, die zu Ihrem
Ziehen Sie Stichproben aus der Realität, nicht aus den einfachen Fällen. Nehmen Sie echte Leads, echte Tickets, echte Rechnungen, echte Fotos, auch die fehlerhaften. Ein Satz, der nur aus sauberen Beispielen besteht, misst ein System, das Sie
Wählen Sie die Stichprobengröße passend zur Entscheidung. Beginnen Sie mit Fällen, die Ihr Team sorgfältig annotieren kann. Richten Sie den Umfang der Evaluation anschließend nach dem Leistungsunterschied aus, den Sie erkennen müssen, und nach dem Risiko einer falschen Schlussfolgerung. Die NIST-Leitlinien zum Testen von Anteilen benennen diese Entscheidungen ausdrücklich. Eine bequem zu bearbeitende Zahl von Beispielen belegt für sich allein nicht, dass der Test Ihre Frage
Schreiben Sie auf, was richtig bedeutet, bevor Sie eine Ausgabe ansehen. Zwei Personen im selben Team sind sich oft uneinig, ob ein Lead qualifiziert war oder ein Dokument richtig abgelegt wurde. Diese Uneinigkeit auf Papier zu klären lohnt sich unabhängig davon, ob Sie etwas kaufen, und wer es hinterher tut, biegt die Definition passend
Kennzeichnen Sie mehrdeutige Fälle als mehrdeutig. Wer einem Fall, den Ihr eigenes Team eskalieren würde, eine Ja-Nein-Antwort aufzwingt, baut einen Test, der richtiges
Halten Sie einen Teil zurück. Behalten Sie einen Anteil, den niemand sieht, der das System baut oder abstimmt, auch Ihr Anbieter nicht. Das liefert Ihnen eine verlässlichere Schätzung der Leistung bei neuen Fällen. Deren Nutzen hängt weiterhin von einer repräsentativen Stichprobe, verlässlichen Labels und genügend Beispielen für die
Prüfen Sie Meinungsverschiedenheiten zwischen Ihren Annotierenden. Übereinstimmung misst, wie einheitlich Menschen dieselben Fälle annotieren; Genauigkeit vergleicht Antworten mit einer Referenz. Klären Sie strittige Labels oder kennzeichnen Sie Fälle als mehrdeutig, bevor Sie damit das System beurteilen. Um Menschen mit dem Modell zu vergleichen, bewerten Sie beide anhand derselben geprüften Antworten und mit derselben Metrik. Die Übereinstimmungsrate der Annotierenden allein belegt weder menschliches Leistungsniveau noch, dass ein Anbieter die Testantworten
Ein Fall mit einer brauchbaren Definition von richtig
Nehmen wir an, Sie evaluieren einen Assistenten, der Tickets zur Rechnungsstellung zuordnet und Antworten entwirft. Dies ist ein illustratives Beispiel,
| Teil der Prüfung | Was die prüfende Person festhält |
|---|---|
| Nachricht des Kunden | „Meine Bank zeigt zwei Abbuchungen für eine Bestellung. Eine ist vorgemerkt, eine ist abgeschlossen.“ |
| Erwartete Zuordnung | Prüfung durch die Rechnungsstelle. Die Nachricht allein belegt nicht zwei abgeschlossene Abbuchungen. |
| Gültiger Entwurf | Das Anliegen bestätigen, die vorgemerkte Buchung von der abgeschlossenen Abbuchung unterscheiden und mitteilen, dass die Rechnungsstelle den Zahlungsdatensatz prüft. |
| Fehlschlag | Eine Rückerstattung zusagen oder behaupten, dem Kunden sei doppelt abgebucht worden, ohne den Datensatz zu prüfen. |
Eine annotierende Person markiert vielleicht zunächst „Rückerstattung erforderlich“, eine andere „Zahlungsprüfung“. Klären Sie diese Uneinigkeit anhand der Zahlungsrichtlinie, bevor Sie das Modell bewerten. Wenn der verfügbare Datensatz die Frage nicht klären kann, ist das richtige Ergebnis eine Eskalation und keine
Eine Antwort kann hervorragend klingen und diesen Fall dennoch nicht bestehen. Halten Sie über den Evaluationssatz hinweg nicht belegte Rückerstattungszusagen getrennt von falscher Zuordnung fest: Diese Fehler haben unterschiedliche Folgen. Vereinbaren Sie, welche Fehler eine automatische Nutzung ausschließen und welche einen Entwurf erlauben, den eine Person prüft. Beurteilen Sie den Kandidaten dann an den ungesehenen Fällen nach genau diesen Regeln. Der Durchschnittswert darf den Fehler nicht verdecken, der einen Einsatz
Was Sie einen Anbieter fragen sollten
Die nützlichen Fragen betreffen die Methode, nicht
Fragen Sie, woran die gemeldete Zahl gemessen wurde und ob das System auf genau diesen Daten abgestimmt wurde. Bitten Sie darum, die Fehlschläge zu sehen, gruppiert nach ihren Folgen für Ihren Arbeitsablauf. Liefern Sie Fälle, die der Anbieter nie gesehen hat. Fragen Sie nach Unsicherheitsschätzungen und nach wiederholten Durchläufen, wenn die Antworten des Systems schwanken. Denselben nicht repräsentativen Test zu wiederholen behebt seine
Ein Anbieter, der diese Fragen beantworten kann, macht die Arbeit. Ein Anbieter, der nur mit einem Ranglistenplatz antwortet, hat Ihnen gesagt, wo er im Test von jemand
Wie wir das anwenden
Die Arbeitsabläufe in unserem Katalog an KI-Systemen brauchen unterschiedliche Tests: ein Dokument korrekt zu extrahieren und einen Lead korrekt zu qualifizieren sind unterschiedliche Ergebnisse. In beiden Fällen sollte der Leistungsumfang der Umsetzung festlegen, welche realen Fälle für die Abnahme verwendet werden, wer die erwarteten Antworten prüft und was passiert, wenn das
Unser AI Opportunity Audit ist der Planungsauftrag: eine Bestandsaufnahme der Arbeitsabläufe, ROI-Berechnungen, Entscheidungen zwischen Eigenentwicklung und Kauf, eine Übersicht über Daten und Zugriffe sowie eine 90-Tage-Roadmap. Dieser Plan sollte die Evaluationsarbeit ausdrücklich benennen, bevor eine Schätzung eingesparter Stunden zum
Die Evaluation ist auch das, was eine schriftliche Abbruchschwelle sinnvoll macht. Im Voraus zu vereinbaren, bei einem bestimmten Leistungsniveau aufzuhören, ist ein leeres Versprechen, solange es keine vereinbarte Methode gibt, Leistung
Quellen
- Measuring what Matters: Construct Validity in Large Language Model Benchmarks, NeurIPS 2025 Datasets and Benchmarks Track: arxiv.org/abs/2511.04703
- Benchmarking Benchmark Leakage in Large Language Models, Xu, Wang, Fan und Liu: arxiv.org/html/2404.18824v1