Künstliche Intelligenz

Algorithmen beim Amt

  • schließen

Wenn Arbeitslose künftig mithilfe von Software bewertet und kategorisiert werden, dann müssen wir darüber diskutieren, welche Rolle Technologie in sozialen Prozessen spielen soll

Ab Anfang des kommenden Jahres werden Arbeitslose in Österreich von einem Algorithmus bewertet und in verschiedene Kategorien sortiert. Das dortige Arbeitsamt (Arbeitsmarktservice AMS) will so die Zuwendungen und Maßnahmen zielgenauer einsetzen.

Für die arbeitslosen Menschen bedeutet die Neuerung, dass eine Software auf ihre Sozialversicherungsdaten, sowie Informationen aus dem Melderegister zugreift und dadurch den beruflichen Werdegang, die Staatsbürgerschaft, das Alter und die Ausbildung kennt. Die Berater ergänzen das Profil mit Informationen zu Gesundheitsdaten. Dann wird berechnet, in welche Kategorie der Mensch fällt: hohe, mittlere oder niedrige Chance auf Rückkehr in den Arbeitsmarkt.

Die Hoffnung dahinter: Eine objektive und bessere Bewertung des einzelnen Arbeitslosen. Subjektivität, Fehler in der Beurteilung und die gängigen menschlichen Fehleinschätzungen sollen künftig vermieden werden. So lautet zumindest das Ziel.

Die Realität: Das klappt nicht. Egal, ob ein einfacher Algorithmus oder ein sogenanntes selbstlernendes System dahintersteht. Denn jede Technologie ist immer nur so fehler- und diskriminierungsfrei, wie sie entwickelt und trainiert wurde. Wer glaubt, mit dem Einsatz von Maschinen an dieser Stelle die Objektivität entdeckt zu haben, irrt.

Auch wenn der österreichische Arbeitsmarktservice beteuert, dass die Kategorisierung keinerlei negative Konsequenzen für die arbeitslosen Menschen haben werde, bleibt dies zu bezweifeln. Haben Sie schon einmal erlebt, dass „bewertende“ Technologie eingesetzt wurde ohne Konsequenzen für die Bewerteten? Welchen Sinn machte dann der Algorithmus noch – vor allem, wenn die übergeordneten Ziele Einsparungen und Effizienz sind?

Auch dieses Beispiel, genauso wie Künstliche Intelligenz zur Bewerberauswahl oder Social Scoring in China, sollte vor allem für eines sorgen, für eine Debatte über den Einsatz von Technologie in sozialen Prozessen.

Wir Menschen sind es, die diese Systeme beauftragen, entwickeln und nutzen. Wir Menschen müssen miteinander diskutieren und aushandeln, was die Maschinen für uns tun sollen und was eben bitte auch nicht.

Wir Menschen sind und bleiben in der Verantwortung, die nimmt uns kein Algorithmus dieser Welt ab.

Die Autorin ist Managementberaterin. Zuletzt erschien von ihr das Buch „Unkompliziert!“.

Das könnte Sie auch interessieren

Kommentare