C1 · Vertiefung KI im Prozessmanagement · 7 Minuten

Schlechte Daten rein, schlechte KI raus

Warum KI ungerecht werden kann und wie man das merkt.

Eine KI ist nur so gut wie die Beispiele, aus denen sie gelernt hat. Sind die Beispiele einseitig, lernt die KI die Einseitigkeit gleich mit. Fachleute nennen das Verzerrung, im Englischen „Bias“.

Ein bekannter Fall: Ein großer Versandhändler testete vor einigen Jahren eine KI, die Bewerbungen vorsortieren sollte. Sie hatte aus den Einstellungen der Vergangenheit gelernt, und damals wurden vor allem Männer eingestellt. Die KI bewertete deshalb Bewerbungen von Frauen schlechter. Das Projekt wurde gestoppt.

Ähnlich ist es mit unausgewogenen Daten: Zeigt man einer KI 90 Hundebilder und 10 Katzenbilder, sagt sie im Zweifel lieber „Hund“. Und lernt sie die Beispiele nur auswendig, statt die Regel dahinter zu verstehen, versagt sie bei neuen Fällen. Das nennt man Überanpassung.

Beispiel aus dem Alltag

Wer seinem Kind nur rote Äpfel zeigt, darf sich nicht wundern, wenn es einen grünen Apfel für eine Birne hält. Die KI ist das Kind, die Daten sind die Äpfel.

Zum Merken: KI übernimmt die Fehler der Vergangenheit, wenn niemand hinschaut. Darum: Daten prüfen, bevor man ihnen glaubt.

Für deinen Alltag

Stell dir vor, eine KI soll bei euch entscheiden, welche Anfrage zuerst bearbeitet wird. Schreib auf, mit welchen alten Daten sie lernen würde und wer dadurch benachteiligt werden könnte.

In der Lernwerkstatt lernen und 3 Fragen beantworten →

← Wie eine Maschine lernt: drei Wege Ein KI-Vorhaben Schritt für Schritt →