Bias in LLMs: Wie Vorurteile in Algorithmen durchdringen

Large Language Models (LLMs) sind extrem mächtig, aber sie sind kein neutrales Abbild der Welt. Sie lernen aus gigantischen Mengen an Textdaten, die von Menschen erstellt wurden. Diese Daten spiegeln nicht nur Wissen, sondern auch die historischen und gesellschaftlichen Vorurteile und Stereotypen wider, die in unserer Sprache und Kultur verankert sind.

Der Bias wird in den Embeddings und Gewichten der Modelle "eingebrannt". Das bedeutet, dass das Modell lernt, bestimmte Begriffe oder Konzepte auf voreingenommene Weise zu assoziieren (z.B. "Arzt" mit "Mann", "Krankenschwester" mit "Frau"), auch wenn dies nicht der Realität oder gewünschten Vielfalt entspricht.

Das folgende Radardiagramm visualisiert konzeptionell, wie stark verschiedene Bias-Typen ein LLM durchdringen könnten. Die Werte sind illustrativ und zeigen die potenzielle Präsenz des Bias in den Modellrepräsentationen.