KI-generierte Kurzmeldung zu dieser PM

Studie: Aussehen von KI-Avataren beeinflusst Fairnessgefühl bei Bewerbungen

Bewerberinnen und Bewerber vertrauen KI-Avataren in Vorstellungsgesprächen zunächst unabhängig von deren Aussehen. Nach einer Absage verändert sich dieses Bild jedoch deutlich. Eine Studie der Technischen Universität München (TUM) und der Universität Lund zeigt, dass die Wahrnehmung der Fairness einer KI-Entscheidung davon abhängt, ob Avatar und Testperson bei Geschlecht oder Hautfarbe übereinstimmen. Am ungerechtesten behandelt fühlten sich dabei ausgerechnet diejenigen, die mit dem Avatar nur in einem dieser Merkmale übereinstimmten.

Für die Untersuchung führten rund 220 Probandinnen und Probanden aus Deutschland, Großbritannien und den USA ein simuliertes Bewerbungsgespräch für eine fiktive Stelle im Kunden-Support. Die Gespräche wurden von fotorealistischen KI-Avataren mit unterschiedlichem Geschlecht und unterschiedlicher Hautfarbe geführt. Eye-Tracking zeigte, dass Teilnehmende Avatare mit einer anderen Hautfarbe genauer betrachteten. Das Vertrauen in die KI blieb zunächst jedoch hoch. Erst nach einer einheitlichen Absage bewerteten viele die Entscheidung als weniger fair. „Wir alle reagieren unbewusst auf das Aussehen der Avatare, selbst wenn wir wissen, dass wir mit einer Maschine sprechen“, sagt Studienautorin Enkelejda Kasneci von der TUM.

Nach Angaben der Forschenden zeigt die Untersuchung, dass die Akzeptanz von KI-Entscheidungen nicht nur von einer möglichst vorurteilsfreien Programmierung abhängt. „Auch wenn dies der Fall ist, kann es sein, dass KI als unfair wahrgenommen wird“, sagt Kasneci. Erkenntnisse über menschliches Sozialverhalten sollten deshalb beim Design solcher Systeme stärker berücksichtigt werden.

Viele Unternehmen setzen bei der Personalauswahl auf KI. Eine neue Studie zeigt nun, dass Bewerberinnen und Bewerber Avataren, die mit ihnen ein Vorstellungsgespräch führen, überwiegend vertrauen – aber nur bis sie eine Absage erhalten. Wie fair diese Entscheidung wahrgenommen wird, hängt von den Identitätsmerkmalen der Avatare ab. Am ungerechtesten behandelt fühlten sich nicht etwa die Testpersonen, die sich am stärksten vom Avatar unterschieden – sondern diejenigen, die entweder beim Geschlecht oder bei der Hautfarbe mit ihm übereinstimmten.

Bei Einstellungsverfahren nutzen Unternehmen immer häufiger Künstliche Intelligenz. Nicht nur Lebensläufe werden automatisiert ausgewertet. KI-Tools können auch Vorstellungsgespräche führen – meist in Form von Avataren, also animierten Personen – und eine Auswahl treffen. Eine wichtige Begründung neben der Zeitersparnis: Die KI sei unvoreingenommener als der Mensch. „Was dabei bislang zu wenig beachtet wurde: Wir alle reagieren unbewusst auf das Aussehen der Avatare, selbst wenn wir wissen, dass wir mit einer Maschine sprechen. Deshalb wird ein Gespräch mit einer Künstlichen Intelligenz zu einer sozialen Interaktion, sobald sie wie ein Mensch auftritt“, sagt Enkelejda Kasneci, Professorin für Human-Centered Technologies for Learning an der Technischen Universität München (TUM).

Ein Team aus Forschenden der TUM und der Universität Lund hat deshalb untersucht, wie Bewerberinnen und Bewerber KI-Entscheidungen in Vorstellungsgesprächen wahrnehmen – abhängig vom Erscheinungsbild des Avatars. Für die Studie führten rund 220 Probandinnen und Probanden aus Deutschland, Großbritannien und den USA ein kurzes simuliertes Vorstellungsgespräch für eine fiktive Stelle im Kunden-Support eines Unternehmens. Befragt wurden sie von einem fotorealistischen Avatar, der menschenähnlich auf die Antworten reagieren und Nachfragen stellen konnte. Das Forschungsteam hatte für die Verkörperung der KI vier Varianten programmiert. Die Avatare waren weiblich oder männlich, sie hatten dunkle oder helle Hautfarbe. Die Blicke der Testpersonen wurden per Eye-Tracking erfasst. Nach dem Gespräch füllten sie einen Fragebogen aus.

Die Eye-Tracking-Auswertung zeigte, dass die Probandinnen und Probanden das Gesicht des Avatars genauer betrachteten, wenn sich die Hautfarbe von ihrer (selbst angegebenen) eigenen unterschied. Das Vertrauen in die Künstliche Intelligenz war aber zu diesem Zeitpunkt durchweg hoch – unabhängig davon, ob Geschlecht und Hautfarbe zwischen Testperson und Avatar übereinstimmte oder nicht.

Das änderte sich, nachdem alle Bewerberinnen und Bewerber eine Absage für die Stelle erhalten hatten und erneut befragt wurden. Nun neigten die Testpersonen eher dazu, dass ungerecht über sie geurteilt wurde. Ob sie die Entscheidung als fair empfanden, hing von den Merkmalen der Avatare ab.

Unterschied sich die Hautfarbe des Avatars von der Hautfarbe der Testpersonen, gingen diese eher davon aus, dass die Absage auf einer Voreingenommenheit beruhte. Am ungerechtesten behandelt fühlten sich allerdings diejenigen Probandinnen und Probanden, die mit dem jeweiligen Avatar in einem Merkmal übereinstimmten, also entweder bei Geschlecht oder Hautfarbe. Sie urteilten negativer über den Fairness-Grad der Entscheidung als Testpersonen, die in beiden Charakteristika mit dem Avatar übereinstimmten – aber auch negativer als die Testpersonen, die sich vollständig vom Avatar unterschieden.

„Die Diskussion über Fairness beim Einsatz Künstlicher Intelligenz hat sich bislang hauptsächlich darum gedreht, ob die Modelle vorurteilsfrei programmiert und trainiert werden. Aber auch wenn dies der Fall ist, kann es sein, dass KI als unfair wahrgenommen wird. Und dieser Effekt kann aus anderen Gründen auftreten, als wir auf den ersten Blick vermuten würden“, sagt Studienautorin Kasneci. „Deshalb müssen Erkenntnisse über unser Sozialverhalten beim Design von KI stärker beachtet werden, wenn die Technologien ihren Zweck erfüllen sollen – wie etwa ein Recruitingverfahren, dessen Qualität alle Beteiligten anerkennen.“