+
Amazon macht jüngst wieder Schlagzeilen wegen der dort eingesetzten Algorithmen.

Gastwirtschaft

Es geht nicht ohne Mensch

  • schließen

Künstliche Intelligenz darf niemanden kündigen dürfen.

In etwa elf Prozent aller deutschen Unternehmen soll mittlerweile künstliche Intelligenz (KI) die Prozesse im Personalwesen unterstützen. Zu diesem Ergebnis kommt eine aktuelle Studie. Wie genau diese Unterstützung aussieht, bleibt dabei weitestgehend im Dunkeln.

Doch nicht so bei dem Online-Händler Amazon. Das US-amerikanische Unternehmen macht jüngst wieder Schlagzeilen wegen der dort eingesetzten Algorithmen. Ein solcher nämlich misst die Produktivität der Mitarbeitenden und „scored“ sie gemäß ihrer Produktivitätsquote.

Gastwirtschaft

Unsere tägliche Kolumne von Gastautorinnen und Gastautoren im Wirtschaftsteil. Heute: Die Managementberaterin Stephanie Borgert. Zuletzt erschien von ihr das Buch „Die kranke Organisation“.

Unterschreitet ein Mitarbeiter einen bestimmten Wert, leitet der Algorithmus nicht nur Entscheidungen daraus ab, sondern setzt diese auch automatisiert um.

So wurden beispielsweise im Logistikzentrum in Baltimore innerhalb eines Jahres rund zehn Prozent der Belegschaft entlassen, weil diese Mitarbeitenden ihre Quote nicht erfüllten.

Leider ist das keine Mär: Amazon hat die Kündigungen und den Algorithmus bestätigt, dementiert jedoch, dass die Kündigungen automatisiert versendet werden, ohne dass die Führungskraft sie bestätigen muss.

Das ist aber nicht das Entscheidende. Denn auch so wirkt der Einsatz von KI auf das soziale System, also auf die Teams, die Mitarbeitenden und deren Verhalten. Darüber müssen wir uns vor dem Einsatz von „Kollege Computer“ Gedanken machen. Denn damit werden sozio-informatische Systeme mit entsprechenden Wechselwirkungen etabliert. Im Fall von Amazon führt das dazu, dass die Mitarbeitenden kaum noch zur Toilette gehen, weil der Algorithmus Pausen und Ruhezeiten erfasst und so die Quote der Produktivität berechnet. Die Menschen sind unter Druck.

Um solche Auswirkungen zu verhindern, hilft eine „Ethik der KI“ oder ein Algorithmen-TÜV, wie immer wieder gefordert wird, nicht. Technisch lässt sich unmoralischer oder missbräuchlicher Einsatz von Algorithmen nicht abfangen.

Was wir brauchen sind verabredete Prozesse und Transparenz über den Einsatz von KI. Wir müssen gemeinsam entscheiden, wofür und wie wir künstliche Intelligenz in Unternehmen einsetzen wollen und wofür eben auch nicht. Maschinen und die dadurch mögliche Automatisierung nehmen uns keine Entscheidungen ab. Wir Menschen bleiben in der Verantwortung – und das ist auch gut so.

Das könnte Sie auch interessieren

Kommentare