Es sollte alles einfacher machen

Amazon schafft selbstlernendes Bewerbungs-Tool ab - weil es kuriosen Fehler macht

+
Amazon schafft ein selbstlernendes Bewerbungstool wieder ab.

Das KI-Tool sollte die Bewerberauswahl bei Amazon eigentlich erleichtern. Doch stattdessen brachte es sich selbst eine Haltung bei, die bestimmte Bewerber diskriminiert.

Beim Online-Riesen Amazon bewerben sich jedes Jahr tausende Mitarbeiter. Kein Wunder, dass sich der Online-Händler da technische Hilfe holen wollte, um die Personalabteilung zu entlasten und die Bewerberauswahl zu perfektionieren. Das ging jedoch gründlich nach hinten los. 

Amazon tüftelte an KI-Tool, um Bewerberauswahl zu perfektionieren

Bereits seit 2014 tüftelte Amazon im schottischen Edinburgh an einer künstlichen Intelligenz (KI), die alle Bewerbungen lesen und mit ein bis fünf Sternen bewerten sollte. Der Plan war, dass Personaler nur noch die Bewerber mit Fünf-Sterne-Bewertungen zum Vorstellungsgespräch einladen. 

"Sie wollten, dass das Programm sprichwörtlich eine Maschine ist, bei der ich ihr 100 Bewerbungen gebe, sie die fünf Besten ausspuckt und wir diese dann einstellen", sagte einer der involvierten Entwickler der Nachrichtenagentur Reuters. Doch als das Tool dann zum Einsatz kommen sollte, kam ein gravierender Fehler zu Tage. 

Lesen Sie auch:  Bei Amazon rollt jede Woche das "Glücksrad" - der Preis ist gefürchtet.

KI-Tool wertet Bewerbungen von Frauen ab

Die künstliche Intelligenz war zwar in der Lage, selber zu lernen und so die Bewerbungen zu beurteilen - doch dabei brachte es sich wohl die "falschen" Dinge bei. Die Entwickler hatten das Tool nämlich mit sehr ungünstigem Ausgangsmaterial "gefüttert", anhand dessen es Muster in erfolgreichen Bewerbungen erkennen sollte. Nämlich mit erfolgreichen Bewerbungen bereits bestehender Mitarbeiter. 

Diese sind jedoch - wie in der gesamten Tech-Branche - zum Großteil männlich. Das KI-Tool lernte also: Männer müssen bevorzugt werden und wertete daraufhin weibliche Bewerber ab. Auch die Ausbildung an Frauen-Universitäten kam beim Tool nicht gut an. 

Die Entwickler bemerkten den Fehler und änderten das System so, dass es das Wort Frau als neutral einstuft. Doch es wurden weitere Diskriminierungen, auch anderer Bewerber-Gruppen, befürchtet - und so wurde das System nach drei Jahren im Test abgeschaltet. Amazon beteuert jedoch, dass das KI-Tool nie wirklich von Personalern eingesetzt wurde - höchstens um ihre eigene Beurteilung vom Tool überprüfen zu lassen.

Auch interessant:  So läuft ein Tag bei Amazon-Gründer Jeff Bezos ab.

Wollen Sie über aktuelle Karriere-News auf dem Laufenden bleiben? Dann folgen Sie unserer Branchenseite auf dem Karriereportal Xing.

Von Andrea Stettner

Zehn Dinge, die Sie im Bewerbungsgespräch sofort disqualifizieren

Wer sich zu viel schminkt oder übermäßig stylt, der fällt bei 5 Prozent aller Personalchefs sofort durch. Wenn Sie sich also nicht gerade in einer Firma für Stylingprodukte bewerben, sollten Sie knalligen Lippenstift, zu viel Haargel oder auffälligen Lidschatten lieber sein lassen.
Wer sich zu viel schminkt oder übermäßig stylt, der fällt bei 5 Prozent aller Personalchefs sofort durch. Wenn Sie sich also nicht gerade in einer Firma für Stylingprodukte bewerben, sollten Sie knalligen Lippenstift, zu viel Haargel oder auffälligen Lidschatten lieber sein lassen. © pexels
Zu schlaff, zu stark oder verschwitzt? Ein schlechter Händedruck fällt bei sechs Prozent der Personaler negativ auf.
Zu schlaff, zu stark oder verschwitzt? Ein schlechter Händedruck fällt bei sechs Prozent der Personaler negativ auf. © pixabay
Wer mit einem Coffee-to-go oder der Coladose in der Hand beim Vorstellungsgespräch erscheint, sorgt bei 14 Prozent der Recruiter für Stirnrunzeln.
Wer mit einem Coffee-to-go oder der Coladose in der Hand beim Vorstellungsgespräch erscheint, sorgt bei 14 Prozent der Recruiter für Stirnrunzeln. © pexels
Ihr bewerbt euch für einen Job in der Bank, erscheint aber in Jeans und T-Shirt? Zu lässige Kleidung disqualifiziert Sie bei 24 Prozent aller Personalchefs. Kleiden Sie sich also lieber etwas zu schick als zu bequem - damit macht man nichts falsch.
Ihr bewerbt euch für einen Job in der Bank, erscheint aber in Jeans und T-Shirt? Zu lässige Kleidung disqualifiziert Sie bei 24 Prozent aller Personalchefs. Kleiden Sie sich also lieber etwas zu schick als zu bequem - damit macht man nichts falsch. © pexels
Gegen einen kleinen Snack vor dem Job Interview ist nichts einzuwenden - aber bitte lassen Sie Ihr Essen in der Tasche verschwinden, bevor es ernst wird. 38 Prozent aller Personaler finden es ziemlich unhöflich, wenn Sie nebenbei ihr belegtes Brot oder gar einen miefigen Döner kauen.
Gegen einen kleinen Snack vor dem Job Interview ist nichts einzuwenden - aber bitte lassen Sie Ihr Essen in der Tasche verschwinden, bevor es ernst wird. 38 Prozent aller Personaler finden es ziemlich unhöflich, wenn Sie nebenbei ihr belegtes Brot oder gar einen miefigen Döner kauen. © pixabay
Fallen Sie Ihrem Gegenüber besser nicht ins Wort: Für 39 Prozent der Recruiter ist das ein absolutes No-Go und disqualifiziert Sie auf der Stelle.
Fallen Sie Ihrem Gegenüber besser nicht ins Wort: Für 39 Prozent der Recruiter ist das ein absolutes No-Go und disqualifiziert Sie auf der Stelle. © pixabay
Eigentlich sollte das selbstverständlich sein, aber wer ungepflegt zum Bewerbungsgespräch erscheint, ist bei der Hälfte der Personalchefs unten durch. Also lieber noch einmal duschen, Haare waschen und ein Deo benutzen, bevor Sie sich auf den Weg machen.
Eigentlich sollte das selbstverständlich sein, aber wer ungepflegt zum Bewerbungsgespräch erscheint, ist bei der Hälfte der Personalchefs unten durch. Also lieber noch einmal duschen, Haare waschen und ein Deo benutzen, bevor Sie sich auf den Weg machen. © pexels
"Wer zu spät kommt, den betraft das Leben" - oder der Personalchef. Denn wer beim Vorstellungsgespräch zu spät erscheint, disqualifiziert sich sofort bei 58 Prozent der Unternehmen. Planen Sie sich also genügend Puffer für die Anfahrt ein.
"Wer zu spät kommt, den betraft das Leben" - oder der Personalchef. Denn wer beim Vorstellungsgespräch zu spät erscheint, disqualifiziert sich sofort bei 58 Prozent der Unternehmen. Planen Sie sich also genügend Puffer für die Anfahrt ein. © pixabay
Finger weg vom Handy - das gilt nicht nur beim Familienessen, sondern auch fürs Vorstellungsgespräch. Bei 71 Prozent aller Recruiter schießen Sie sich gleich ins Abseits, wenn Sie im Gespräch Ihr Telefon zücken.
Finger weg vom Handy - das gilt nicht nur beim Familienessen, sondern auch fürs Vorstellungsgespräch. Bei 71 Prozent aller Recruiter schießen Sie sich gleich ins Abseits, wenn Sie im Gespräch Ihr Telefon zücken. © pexels
Das größte No-Go für Personalchefs ist aber unhöfliches Verhalten gegenüber Mitarbeitern. Wer die Empfangsdame anzickt oder andere Mitarbeiter herumkommandiert, der fliegt bei stolzen 86 Prozent aller Personalchefs von der Kandidatenliste.
Das größte No-Go für Personalchefs ist aber unhöfliches Verhalten gegenüber Mitarbeitern. Wer die Empfangsdame anzickt oder andere Mitarbeiter herumkommandiert, der fliegt bei stolzen 86 Prozent aller Personalchefs von der Kandidatenliste. © pixabay

Auch interessant

Meistgelesen

Nach dem Bewerbungsgespräch: So oft dürfen Sie nachhaken, bevor es nervt
Nach dem Bewerbungsgespräch: So oft dürfen Sie nachhaken, bevor es nervt
Ein besonderer Trick verwandelt Ihren Lebenslauf von gut in großartig 
Ein besonderer Trick verwandelt Ihren Lebenslauf von gut in großartig 
Gehalt bei McDonald's: Wie viel verdienen die Mitarbeiter?
Gehalt bei McDonald's: Wie viel verdienen die Mitarbeiter?
Mathe-Rätsel für Erstklässler: Hier scheitern selbst Erwachsene
Mathe-Rätsel für Erstklässler: Hier scheitern selbst Erwachsene

Kommentare