Bias bezeichnet in der künstlichen Intelligenz eine systematische Verzerrung, die dazu führt, dass ein Modell bestimmte Gruppen oder Fälle unfair behandelt.
Auch genannt: Verzerrung, algorithmische Verzerrung
Ein KI-System lernt aus Beispielen. Wenn diese Beispiele einseitig oder unausgewogen sind, übernimmt das Modell diese Schiefe – und trifft in der Folge systematisch verzerrte Entscheidungen oder Vorhersagen.
Bias kann an mehreren Stellen entstehen: in unausgewogenen Trainingsdaten, in der Auswahl der Merkmale, mit denen ein Modell arbeitet, oder in der Art, wie ein System bewertet und optimiert wird. Da Modelle statistische Muster verstärken, kann ein kleiner Unterschied in den Daten zu einem deutlich größeren Unterschied im Modellverhalten führen.
Ein Bewerbungs-Vorauswahlsystem, das überwiegend mit historischen Daten einer bestimmten Berufsgruppe trainiert wurde, kann Bewerbungen außerhalb dieses Musters systematisch schlechter bewerten – unabhängig von der tatsächlichen Qualifikation.
Die Auseinandersetzung mit Bias ist fester Bestandteil verantwortungsvoller KI-Entwicklung: bei der Prüfung von Trainingsdaten, der Bewertung von Modellentscheidungen und der Einhaltung rechtlicher Vorgaben für automatisierte Entscheidungen.
Bias lässt sich selten vollständig beseitigen, da reale Daten fast immer historische Ungleichheiten spiegeln. Bias ist außerdem kein Softwarefehler im klassischen Sinn, sondern ein strukturelles Phänomen, das gezielte Gegenmaßnahmen statt einfacher Korrekturen erfordert.
Nicht zu verwechseln mit einer Halluzination (KI), bei der ein System faktisch falsche, aber nicht notwendig systematisch verzerrte Ausgaben erzeugt, oder mit Trainingsdaten, die die Ursache, nicht das Phänomen selbst sind. Rechtlich flankiert wird das Thema durch den EU AI Act.