Gefährliche Algorithmen – was zu tun wäre


Technologische und politische Innovationen gilt es verantwortungsvoll umzusetzen, etwa unter Einbeziehung der Betroffenen. Vier Verbesserungsvorschläge für das neue AMS-System

Das neue algorithmisierte Profiling-System des AMS, das die Jobchancen Arbeitsloser automatisiert bewerten soll, wird zwiespältig gesehen. Technologie-Enthusiasten, darunter jene, die für die Einführung des Systems beim AMS plädieren, argumentieren, dass dadurch Steuermittel effizienter verteilt und arbeitslose Personen zielgerichteter vermittelt werden können. Kritiker meinen dagegen, dass sozial-demografisches Profiling Personen bestimmte Kategorien zuweist und ihnen den Zugang zum Arbeitsmarkt weiter erschwert. Dadurch würde das System bestehende Vorurteile, etwa in Bezug auf Geschlecht, Ethnizität oder Alter, verstärken statt abschwächen.

Mehr Schaden als Nutzen

Digitalisierung bestimmter Prozesse und die Einführung von Algorithmen in neue Bereiche sind die Gebote der Stunde – ebenso wie die Steigerung der Effizienz. Beides kann in bestimmten Fällen aber problematisch sein. Das Problem der Effizienz ist einfach erklärt. Wie die Verhaltensökonomen Daniel Kahneman und Amos Tversky gezeigt haben, führt höhere Effizienz nicht automatisch zu mehr Wohlbefinden. Die Annahme, dass Menschen grundsätzlich "ökonomisch" handeln, ihre Entscheidungen also durch das Abwägen von Kosten und Nutzen und die Auswahl der nützlichsten Alternative treffen, trifft oft nicht zu. Menschen treffen ihre Entscheidungen oft auf Basis von Vorurteilen, Heuristiken und vielen anderen psychologischen Faktoren, die von der bloßen Kosten-Nutzen-Strategie abweichen.

HR-Manger etwa handeln eher risikoscheu, sie gehen das Risiko, das die Beschäftigung einer langzeitarbeitslosen Person, auch wenn sie möglicherweise bestens ausgebildet ist, mit sich bringt, also nicht ein. Arbeitslose Personen dagegen sind bereit, mehr Risiko einzugehen, und nehmen dabei auch mehrfaches Scheitern in Kauf – was die eigene Situation, welche im Algorithmus abgebildet wird, weiter verschlechtert. Das bloße Verlassen auf effiziente Programme, in diesem Fall die mathematische Abbildung einer Person, führt so angewandt auf menschliche Entscheidungen zu mehr Schaden als Nutzen, indem es den jeweiligen Status lediglich reproduziert.

Die Grenzen der Algorithmen

Algorithmisierung komplexer Sachverhalte wie der Jobsituation eines Menschen, der Mechanismen des Arbeitsmarktes oder psychologischer Effekte des Jobverlustes ist demnach noch bedrohlicher. Algorithmen sind begrenzt durch die Daten, die ihnen zur Verfügung stehen. Informationen, die nicht durch Modellierung abbildbar sind, werden nicht miteinbezogen. In unserer Forschung weisen Menschen auf eine Vielzahl von Faktoren und Gründen hin, die zu Langzeitarbeitslosigkeit führen können. Der Algorithmus nimmt weder familiäre Gegebenheiten noch die jeweilige Sozialisation oder die individuelle Lebensgeschichte in seine Berechnungen auf. Er "interessiert" sich auch nicht für Karrierewünsche, Jobpräferenzen oder Fähigkeiten, die hinter dem Vorhang der sozio-demografischen Kategorisierung schlummern. Auch Jobangebote, die erst in der Zukunft zum Beispiel durch neue Technologien entstehen, werden vom Algorithmus nicht abgebildet.

Die Technologie, die vom AMS eingeführt werden soll, ist im Begriff, soziale Ghettos von "Vermittelbaren" und "Nichtvermittelbaren", den zukünftig sogenannten C-Arbeitslosen zu schaffen. Auch Vorurteile, dass Arbeitslosigkeit meistens selbst verschuldet ist, können dadurch verstärken werden. In einem sich stetig wandelnden Arbeitsmarkt kann die Algorithmisierung zur "Erstarrung" von Menschen und Jobs führen. Als Resultat würden dadurch Chancen für Menschen und Kreativität und Offenheit für Neues, die in einem volatilen Arbeitsmarkt dringend nötig wären, zerstört werden.

Betroffene einbeziehen

Während der Einsatz intelligenter Algorithmen viele Probleme in sich birgt, gibt es auch Wege, die zu einer Verbesserung beitragen können. Ein verantwortungsvollerer Weg, diese Art von Software einzusetzen, wäre einerseits die Einbindung zahlreicher Experten und würde andererseits auch die Betroffenen miteinbeziehen. User sollten dabei nicht nur als Testsubjekte, sondern als Mitentwickler teilnehmen. Eine Idee, die nicht so abwegig ist, wie sie auf den ersten Blick scheint.

Das Fraunhofer-Institut in Berlin forscht an einer neuen Methode, die Betroffene an der Entwicklung neuer Technologien beteiligen soll. Das "Shaping Futures"-Konzept kombiniert dabei das Wissen von Experten, Laien, Designern und Ingenieuren, um die Wünsche und Ideen aller in die Entwicklung miteinzubeziehen. Die Ergebnisse dieser Prozesse werden anschließend analysiert und in technologische "Roadmaps" gegossen. Das ermöglicht die Einbindung fachfremder Perspektiven in den Expertenjargon. Im nächsten Schritt werden erste Prototypen erstellt. Diese Methode wurde unter anderem bei der Entwicklung neuer Medikamente oder dem Bau von Gebäuden angewendet. Die ÖBB arbeiten mit ihrem Open-Innovation-Projekt so auch an der Einführung neuer Services. In einigen Fällen führen diese Beispiele von gemeinsamer Entwicklung zu Algorithmen, in anderen zu nichttechnischen Innovationen. Es muss daher offener über Technologien gedacht werden, anstatt Experten Software entwickeln zu lassen, die Menschen aufgrund von in Formeln gegossener, vergangener Erfahrung in Kategorien einteilt.

Vier Verbesserungsvorschläge

Wir schlagen vor, technologische und politische Innovationen in einer verantwortungsvollen Art und Weise umzusetzen. Das schließt vor allem die Antizipation möglicher Auswirkungen, eine reflektierte Arbeitsweise und die Einbeziehung der Bedürfnisse von Betroffenen mit ein. Der einfachste Weg, das zu tun, ist, mit jenen zu interagieren, deren Leben von solchen technologischen Systemen beeinflusst werden. Die Demokratisierung von Forschung, Entwicklung und technologischem Design ist vor allem in einer Zeit, in der Technologien soziale Probleme lösen sollen, notwendig. Abseits der Kritik schließen wir mit einem pragmatischen Fazit. Das AMS-System ist bereits fertig entwickelt und wird getestet werden – daran kann rückwirkend wenig geändert werden. Daher folgende Verbesserungsvorschläge:

  1. Die Veranstaltung von Workshops mit arbeitslosen Menschen, in denen der In- und Output des Systems diskutiert wird. Die Erfahrungen dieser Workshops und damit die Stimmen der Betroffenen sollen auch in die Evaluation des Systems einfließen.
  2. Das System sollte von den Erfahrungen arbeitsloser Menschen lernen und die wissenschaftliche Expertise in Bezug auf psychologische und soziale Konsequenzen von Arbeitslosigkeit berücksichtigen.
  3. Die Schaffung einer zivilen Einrichtung, die die Resultate aus einer ethischen und gesellschaftlichen Perspektive analysiert. Die Gruppe sollten Laien ebenso umfassen wie NGOs, die im Bereich der Arbeitslosigkeit arbeiten.
  4. Bei der künftigen Planung wichtiger und einflussreicher Systeme sollen auch die Stimmen von Laien in die frühe Phase der Entwicklung miteinbezogen werden.

Das wäre demnach auch "effizienter", wenn wir davon ausgehen, dass Effizienz bedeutet, mehr Wohlbefinden für eine große Zahl von Personen durch limitierte Ressourcen zu schaffen. (Robert Braun, Tamara Brandstädter, 20.10.2018)

 

Quelle: https://derstandard.at/2000089729210/Gefaehrliche-Algorithmen


Kommentare (0)


Fügen Sie einen Kommentar hinzu





Erlaubte Tags: <b><i><br>Kommentar hinzufügen:


Latest Comments

Watchlist

deimelbauer.at

Partner

Soned