Ethik Kapitel 8

Objektivität, Daten, Reduktion, Verzerrungen, Präferenzenstarrheit

Objektivität als Treue zu Fakten

Problem vollständig, aus allen Blickwinkeln erfasst

• Nicht überprüfbar, durchführbar → es gibt keine übergeordneter Perspektive

Objektivität als Abwesenheit von normativen Überzeugungen

Ideal der Wertneutralität → Orientierung an den Fakten

• Menschen sind nicht wertneutral!

Objektivität als Freiheit von persönlichen (Vor-) Urteilen

Z.B. Statistik für verlässliche, reproduzierbare Ergebnisse

• Kaum sicherzustellen → manipulierbar

Warum ist Objektivität schwer zu realisieren

Werteurteile/normative Schlüsse erfordern normative Prämissen: Wertesubjektivismus oder -konstruktivismus, welche nicht objektiv sind → Objektiv urteilende Maschinen, Menschen sind nicht möglich

Datengewinnung der großen Firmen

Große Firmen nutzen rechtliche Grauzonen aus, um Daten zu gewinnen

• Überwachungskapitalismus: Es wird mehr erfasst als nötig und gespeichert um z.B. Kaufverhalten vorherzusagen

Überwachungskapitalismus (Zuboff) Auswirkungen

Enteignung kritischer Menschenrechte → Putsch von oben: Sturz der Volkssouveränität

• Datensammlung von Firmen oft übergriffig, Lizenzen werden ignoriert

Ghost Work

Für Nutzer unsichtbare Arbeit von Menschen in IT

• KI von Menschen, Erstellung der Trainingsdaten

Arbeitsbedingungen:

• Wenig Lohn → Zweitjob

• Selbstständig → keine Sozialversicherung, health care, Arbeitsschutz, …

Vergütung nur nach guter Erledigung der Arbeit → Bewertungskriterien intransparent und willkürlich, Bewertungen können Auftragsdichte beeinflussen

Reduktion

Erfolgt durch Abstraktion → nie neutral

In ML: Abstraktion kreiert Model der Realität → nicht die Realität

Bias in ML

Systematische Verzerrungen

Ungerechte Ausgaben gegenüber einzelnen oder Gruppen

• Coeckelbergh: Unklar, ob sich Bias vermeiden lässt

Präferenzstarrheit und selbstverstärkende Effekte

Präferenzstarrheit (Konservatismus): Wenn ML mit historischen Daten trainiert, wird altes Verhalten in Zukunft projiziert → Präferenzen erstarren

• Widerspruch: Menschen verändern sich

Selbstverstärkende Effekte: ML bildet menschliches Verhalten nach → Z.B. Systematische Benachteiligung wird erkannt, imitiert, legitimiert für Zukunft

Verbesserungsmöglichkeiten

Experten einbinden

Sinnfragen stellen: Datengetriebene Lösung möglich? Mehrwert (Vorteil)? Effizientere Lösungen?

Dokumentation von Datensätzen, Programmen, Modellen

Model Cards, Datasheets für Datensätze