Trainings- und Testdaten auf Repräsentativität prüfen: Stichprobe, Verteilung und Verteilungsverschiebung

Machine Learning & KI

Repräsentativität ist keine absolute Eigenschaft eines Datensatzes. Eine technische Untersuchung benötigt zumindest eine bestimmte Zielpopulation oder operative Umgebung, einen konkreten Datenstand, ein nachvollziehbares Auswahlverfahren und Merkmale, hinsichtlich derer die Abdeckung untersucht werden soll.

1. Repräsentativität benötigt eine Zielpopulation

Bevor ein Datensatz als repräsentativ untersucht werden kann, muss geklärt werden, für welche Population, welchen Prozess oder welche operative Umgebung die Aussage gelten soll.

Ohne eine solche Bezugsgröße bleibt die Aussage „die Daten sind repräsentativ“ technisch unbestimmt.

2. Der Nutzungskontext gehört zur Repräsentativitätsfrage

Derselbe Datensatz kann für einen eng abgegrenzten Einsatzkontext geeignet sein und für einen anderen Kontext wesentliche Bereiche nicht abdecken.

NIST verbindet Repräsentativität und Evaluation ausdrücklich mit der relevanten Population beziehungsweise dem Context of Use.

3. Ein beobachteter Datensatz ist nicht automatisch die Zielpopulation

Der tatsächlich verfügbare Datenbestand bildet zunächst nur die beobachteten Fälle ab.

Ob diese Beobachtungen die relevante Zielpopulation angemessen abdecken, ist eine zusätzliche Untersuchungsfrage.

4. Auswahlrahmen und Auswahlverfahren sollten dokumentiert werden

Für die technische Einordnung einer Stichprobe ist relevant, aus welcher Menge Fälle überhaupt ausgewählt werden konnten und nach welcher Regel die Auswahl erfolgte.

Dokumentiert werden können beispielsweise:

• Ausgangspopulation beziehungsweise Auswahlrahmen,
• Ein- und Ausschlusskriterien,
• Filterregeln,
• zeitliche Auswahlgrenzen,
• Zufallsauswahl oder andere Auswahlmechanismen,
• bekannte Ausfälle oder fehlende Bereiche.

5. Ein großer Stichprobenumfang beweist noch keine Repräsentativität

Eine große Anzahl von Beobachtungen kann die Datenbasis verbreitern. Sie beseitigt jedoch nicht automatisch systematische Lücken im Auswahlprozess.

Viele Beobachtungen aus demselben unvollständigen Auswahlrahmen können weiterhin relevante Bereiche der Zielpopulation nicht enthalten.

6. Klassenbalance und Repräsentativität sind verschiedene Fragen

Ein Klassifikationsdatensatz kann beispielsweise exakt 50 Prozent positive und 50 Prozent negative Fälle enthalten.

Daraus folgt nicht, dass dieses Verhältnis der späteren Zielpopulation oder Einsatzumgebung entspricht.

Eine bewusst ausgeglichene Klassenverteilung kann für Training oder Evaluation technisch sinnvoll sein, muss aber als solche dokumentiert werden.

7. Stratifikation erhält Klassenanteile innerhalb eines Splits

scikit-learn ermöglicht beispielsweise mit stratify bei train_test_split eine stratifizierte Aufteilung.

Bei StratifiedKFold werden die relativen Klassenhäufigkeiten in den Folds näherungsweise erhalten.

8. Stratifikation ist kein allgemeiner Repräsentativitätsnachweis

Die scikit-learn-Dokumentation weist ausdrücklich darauf hin, dass die dortige Stratifikation ein technisches Engineering-Problem adressiert und nicht ein allgemeines statistisches Problem löst.

Erhaltene Klassenanteile sagen beispielsweise noch nichts darüber aus, ob Altersgruppen, Regionen, Gerätetypen, Zeiträume oder andere relevante Merkmale angemessen vertreten sind.

9. Ein Train-Test-Split erzeugt keine externe Repräsentativität

Eine saubere Trennung von Trainings- und Testdaten ist für die Modellvalidierung wichtig.

Sie beantwortet aber nicht automatisch die Frage, ob der zugrunde liegende Gesamtbestand die spätere Einsatzpopulation abbildet.

10. Ähnliche Train- und Testverteilungen beweisen keine operative Repräsentativität

Werden Trainings- und Testdaten aus demselben Ausgangsbestand gezogen, können ihre Verteilungen einander sehr ähnlich sein.

Beide Teilmengen können dennoch gemeinsam von der späteren operativen Datenverteilung abweichen.

11. Relevante Teilgruppen müssen zunächst bestimmt werden

Eine Repräsentativitätsprüfung benötigt eine fachliche Begründung dafür, welche Teilgruppen für den konkreten Einsatz technisch relevant sind.

Je nach Kontext können dies beispielsweise Produktgruppen, Gerätetypen, Regionen, Zeiträume, Fehlerklassen oder andere Segmente sein.

12. Teilgruppenabdeckung sollte quantifiziert werden

Für relevante Teilgruppen können unter anderem Fallzahl, relativer Anteil und Abdeckung dokumentiert werden.

Sehr kleine Teilgruppen können die Aussagekraft einer gruppenspezifischen Modellbewertung begrenzen.

13. Merkmalsverteilungen sind eine technische Vergleichsgrundlage

Neben Klassenhäufigkeiten können auch Verteilungen einzelner Eingabemerkmale untersucht werden.

Dazu gehören beispielsweise:

• Wertebereiche,
• Quantile,
• Häufigkeiten,
• Kategorien,
• fehlende Werte,
• seltene Ausprägungen.

14. Einzelne ähnliche Merkmalsverteilungen beweisen keine Gesamtähnlichkeit

Zwei Datenbestände können für einzelne Features ähnliche Randverteilungen besitzen und sich dennoch in Beziehungen zwischen Merkmalen unterscheiden.

Deshalb sollte der Umfang einer Verteilungsanalyse zur konkreten Untersuchungsfrage passen.

15. Merkmalsbeziehungen können ebenfalls relevant sein

Je nach Modell können nicht nur einzelne Feature-Verteilungen, sondern auch Kombinationen und Abhängigkeiten zwischen Merkmalen für das Modellverhalten relevant sein.

Eine rein univariate Analyse besitzt deshalb eine entsprechend begrenzte Aussage.

16. Fehlende Wertebereiche können trotz großer Fallzahl bestehen

Ein Datensatz kann viele Beobachtungen enthalten und dennoch bestimmte technisch relevante Wertebereiche nicht abdecken.

Solche Abdeckungslücken sollten getrennt von der reinen Stichprobengröße dokumentiert werden.

17. Zeitliche Abdeckung gehört zur Datenrepräsentation

Daten aus einem kurzen Zeitraum können saisonale, konjunkturelle oder sonstige zeitabhängige Zustände unzureichend erfassen.

Für zeitabhängige Prozesse gehört daher auch der Erhebungszeitraum zur technischen Untersuchungsgrundlage.

18. Räumliche oder organisatorische Abdeckung kann relevant sein

Werden Daten nur an einzelnen Standorten, in bestimmten Organisationseinheiten oder aus wenigen Systemen erhoben, kann die Übertragbarkeit auf andere Bereiche begrenzt sein.

Welche Abdeckung benötigt wird, hängt vom vorgesehenen Einsatz ab.

19. Mehrfachbeobachtungen derselben Einheit sind gesondert zu betrachten

Mehrere Datensätze derselben Person, Maschine, Anlage oder sonstigen Einheit erhöhen zwar die Zeilenzahl, aber nicht im selben Umfang die Zahl unabhängiger Untersuchungseinheiten.

Gruppenbezüge sollten deshalb bei Datenbeschreibung und Evaluation sichtbar bleiben.

20. Gruppenstruktur und Repräsentativität sind miteinander zu verbinden

Sind bestimmte Gruppen im Datenbestand über- oder unterrepräsentiert, kann eine zufällige Zeilenaufteilung diese Struktur verdecken.

Artikel 10 erläutert, warum in solchen Fällen auch gruppenbezogene Evaluationsverfahren relevant sein können.

21. Zeitreihen erfordern einen zeitlichen Bezug zur Einsatzsituation

Bei zeitabhängigen Daten sollte geprüft werden, ob Trainings- und Testzeiträume die später relevante Einsatzsituation sinnvoll abbilden.

Eine zufällige Mischung historischer und späterer Beobachtungen beantwortet nicht dieselbe Frage wie eine zeitlich vorwärts gerichtete Prüfung.

22. Ein Testbestand sollte zur konkreten Einsatzfrage passen

Ein methodisch vom Training getrennter Testbestand kann dennoch für die spätere Einsatzpopulation unpassend sein.

NIST fordert für AI-System-Evaluationen eine Betrachtung von Bedingungen, die der Deployment-Situation entsprechen.

23. NIST stellt den Bezug zur relevanten Population ausdrücklich her

Im NIST AI RMF wird für Evaluationen mit menschlichen Probanden beziehungsweise entsprechenden Daten ausdrücklich die relevante Population als Bezugspunkt genannt.

Für die technische Begutachtung unterstreicht dies, dass der Bezugsrahmen einer Repräsentativitätsaussage dokumentiert werden muss.

24. Einsatzbedingungen können sich nach dem Training verändern

Auch ein ursprünglich geeigneter Trainingsbestand bleibt nicht automatisch dauerhaft repräsentativ für die operative Umgebung.

Änderungen an Produkten, Nutzungsverhalten, Sensorik, Prozessen oder anderen Rahmenbedingungen können die späteren Eingabedaten verändern.

25. Verteilungsverschiebung braucht eine konkrete Vergleichsbasis

Die Aussage „die Datenverteilung hat sich verändert“ benötigt mindestens zwei bestimmte Datenstände, definierte Merkmale und ein Vergleichsverfahren.

Ohne diese Angaben bleibt auch eine Drift-Aussage technisch unbestimmt.

26. Data Skew vergleicht Trainings- und Serving-Daten

Die BigQuery-ML-Dokumentation verwendet den Begriff Data Skew für signifikante Unterschiede zwischen den Verteilungen von Feature-Werten in Trainings- und Serving-Daten.

Diese Vergleichsrichtung sollte bei einer Begutachtung ausdrücklich dokumentiert werden.

27. Data Drift bezeichnet Veränderungen von Serving-Daten über die Zeit

Von Data Skew trennt Google Data Drift.

Dabei werden unterschiedliche Serving-Datenstände miteinander verglichen, beispielsweise aktuelle und historische Produktionsdaten.

28. Data Skew und Data Drift sind nicht dasselbe

Ein Vergleich zwischen Training und Produktion beantwortet eine andere Frage als ein Vergleich zweier Produktionszeiträume.

Beide Befunde sollten deshalb nicht unter einer einzigen undifferenzierten „Drift“-Aussage zusammengefasst werden.

29. Eine Verteilungsänderung beweist noch keinen Daten- oder Modellfehler

Ein festgestellter Verteilungsunterschied ist zunächst ein technischer Befund.

Ob die Änderung erwartbar, problematisch oder für das Modellverhalten relevant ist, benötigt eine zusätzliche Einordnung anhand der Untersuchungsfrage.

30. Driftmetriken und Schwellenwerte gehören zur Dokumentation

Die Google-Dokumentation verwendet bei ihren Skew- und Drift-Prüfungen konkrete Vergleichsmetriken und Schwellenwerte.

Für einen reproduzierbaren Befund sollten daher verwendete Metrik, Schwelle, Baseline und Vergleichsdatenstand dokumentiert werden.

31. Verteilungsverschiebungen können die Modellleistung beeinflussen

Weichen operative Daten von den Daten ab, auf denen ein Modell entwickelt und bewertet wurde, kann sich die Modellleistung verändern.

Aus der Verteilungsänderung allein lässt sich jedoch nicht die konkrete Höhe einer Leistungsänderung ableiten. Diese muss gesondert gemessen werden.

32. Repräsentativität und Fairness sind nicht dasselbe

Eine Datenrepräsentativitätsanalyse beantwortet zunächst Fragen zu Population, Auswahl, Abdeckung und Verteilungen.

Eine Fairnessanalyse benötigt darüber hinaus eigene fachliche Fragestellungen, Gruppenbezüge, mögliche Auswirkungen und geeignete Bewertungsmaßstäbe.

33. Bias ist breiter als Klassenbalance oder Repräsentativität

NIST unterscheidet mehrere Kategorien von Bias und weist darauf hin, dass Bias nicht auf demografische Balance oder Datenrepräsentativität reduziert werden kann.

Deshalb sollte eine festgestellte Unterrepräsentation nicht ohne weitere Analyse mit einem vollständigen Bias- oder Fairnessbefund gleichgesetzt werden.

34. Gewichtung und Resampling verändern nicht die historische Herkunft der Daten

Techniken wie Gewichtung, Over-Sampling oder Under-Sampling können die für ein Verfahren wirksame Datenverteilung verändern.

Sie erzeugen dadurch jedoch nicht rückwirkend Beobachtungen aus Populationsteilen, die im ursprünglichen Datenbestand überhaupt nicht enthalten waren.

35. Eine unbekannte Zielpopulation begrenzt die Aussage

Ist nicht bestimmt, auf welche Population oder operative Umgebung sich eine Repräsentativitätsaussage beziehen soll, kann häufig nur die interne Zusammensetzung des vorhandenen Datensatzes beschrieben werden.

36. Technischer Datenbefund und rechtliche Bewertung bleiben getrennt

Eine technische Untersuchung kann beispielsweise feststellen, welche Population angenommen wurde, welche Teilgruppen enthalten sind, wie Klassen- oder Feature-Verteilungen aussehen und ob sich Produktionsdaten gegenüber einer Baseline verändert haben.

37. Praktische Dokumentationsstruktur einer Repräsentativitätsprüfung

Für eine nachvollziehbare technische Untersuchung können beispielsweise folgende Angaben dokumentiert werden:

• Zielpopulation beziehungsweise operative Umgebung,
• Untersuchungszweck,
• konkreter Datenstand,
• Datenquellen,
• Auswahlrahmen,
• Ein- und Ausschlusskriterien,
• Stichprobenumfang,
• Auswahlverfahren,
• relevante Teilgruppen,
• Klassenhäufigkeiten,
• Merkmalsverteilungen,
• zeitliche Abdeckung,
• räumliche oder organisatorische Abdeckung,
• Vergleichsbestand beziehungsweise Baseline,
• Skew- oder Driftmetrik,
• verwendete Schwellenwerte,
• bekannte Unsicherheiten und Aussagegrenzen.

Weiterführende Beiträge

Wie Bias und Fairness anhand vorab definierter Gruppen, Selection Rates, Fehlerraten und weiterer Fairnessmetriken technisch untersucht werden können, erläutert Bias und Fairness bei Machine-Learning-Modellen technisch untersuchen: Gruppen, Metriken und Aussagegrenzen .

Wie der konkrete Machine-Learning-Modellstand als Untersuchungsgegenstand bestimmt wird, erläutert Machine-Learning-Modell als Untersuchungsgegenstand: Modellversion, Parameter, Datenbasis und Laufzeitumgebung .

Wie ein Modell auf einem getrennten Testbestand technisch bewertet wird, erläutert Machine-Learning-Modell technisch validieren: Testdaten, Metriken, Overfitting und Datenleckage .

Wie Trainings- und Testdaten nach Herkunft, Datenstand und Transformationen bestimmt werden, erläutert Daten als Untersuchungsgegenstand: Herkunft, Datenstand und Reproduzierbarkeit .

Zur technischen Prüfung von Datenqualität, Referenzwerten und Stichprobenbegrenzungen siehe Datenqualität technisch prüfen: Vollständigkeit, Konsistenz, Genauigkeit und Aktualität .

Wie eine allgemeine Daten- oder KI-Fragestellung technisch eingegrenzt wird, erläutert Welche technische Fragestellung kann ein IT-Sachverständiger tatsächlich beantworten? .

Der allgemeine Quellen- und Dokumentationsstandard ist unter Quellen und Methodik beschrieben.

Trainings- und Testdaten technisch untersuchen

Wenn Repräsentativität, Stichprobenabdeckung, Klassen- oder Merkmalsverteilungen, Data Skew oder Data Drift untersucht werden sollen, können zunächst Zielpopulation, Datenstand, Vergleichsbasis und Aussagegrenzen fachlich eingegrenzt werden.

Data-Science- & KI-Gutachten ansehen