Fairness im Maschinellen Lernen

Tierarztbesuch

Testergebnis
Höherer Wert bedeutet größeres Krankheitsrisiko

Jeder Kreis repräsentiert einen Hund, der potentiell erkrankt sein könnte.

A. Klare Trennung

B. Überlappende Testergebnisse

Aufgabe: Maximiere den Gewinn

Verschiebe die Entscheidungsgrenzen, und erhöhe die Punktzahl.

Testergebnis
Höherer Wert bedeutet größeres Krankheitsrisiko

Jeder Kreis repräsentiert einen Hund, der potentiell erkrankt sein könnte.

Entscheidung

Ergebnis

Profit:

Therapieentscheidungen für verschiedene Gruppen

Wie können Therapieentscheidungen für mehrere Gruppen fair getroffen werden können?
Verschiebe die Entscheidungsgrenzen solange, bist du das Ergebnis als "fair" ansiehst
Wichtig: Es gibt keine richtige oder falsche Wahl -- verschiedene Auffassungen von Fairness führen zu verschiedenen Ergebnissen.

Strategien Erhöhe die Punktzahl mit: Keine Nebenbedingungen Entscheidungsgrenzen sind gleich Gruppen erhalten gleiche Anzahl an Therapien Kranke Hunde in den Gruppen erhalten gleiche Anzahl an Therapien Max Profit The most profitable, since there are no constraints. But the two groups have different thresholds, meaning they are held to different standards. Group Unaware Both groups have the same threshold, but the orange group has been given fewer loans overall. Among people who would pay back a loan, the orange group is also at a disadvantage. Demographic Parity The number of loans given to each group is the same, but among people who would pay back a loan, the blue group is at a disadvantage. Equal Opportunity Among people who would pay back a loan, blue and orange groups do equally well. This choice is almost as profitable as demographic parity, and about as many people get loans overall.
	Population I: Schäferhund	Population II: Dackel
	Punktzahl =
	Punkte:	Punkte: