Ruderboot mit einer Mannschaft auf dem Meer
Ian Stauffer / Unsplash – Unsplash License, https://unsplash.com/license

, Algo.Rules: Praxisleitfaden für KI-Ethik-Prinzipien: Die Algo.Rules gemeinsam umsetzen!

Neben unseren Algo.Rules fordern zahlreiche Initiativen in weit über hundert Leitlinien die ethische Gestaltung algorithmischer Systeme. Doch vielen Entwickler:innen und ihren Führungskräften fehlt eine Orientierung, was das konkret für sie bedeutet. Zusammen mit Expert:innen aus der Praxis haben wir deshalb einen Leitfaden zur Umsetzung der Algo.Rules entwickelt, der an dieser Herausforderung ansetzt. Relevanzprüfungen, Erfolgsfaktoren und Checklisten führen dabei durch den Ethik-Dschungel. Sie regen die Diskussion zwischen Entwickler:innen und ihren Führungskräften an und verdeutlichen: Nur gemeinsam können wir die Algo.Rules in die Praxis bringen!

  • PDF

Immer mehr Lebensbereiche werden durch den Einsatz algorithmischer Entscheidungssysteme beeinflusst. Dadurch entsteht die Notwendigkeit, die Entwicklung der Technologie an ethischen Prinzipien auszurichten, um ihre Potenziale für die Gesellschaft voll auszuschöpfen und möglichen Schaden abzuwenden. Beispiele, wie das österreichische Arbeitsmarktchancen-Assistenzsystem (AMAS), mit dem auf Basis algorithmischer Prognosen Arbeitssuchende Förderungen vergeben werden oder der Einsatz von Robo Recruiting-Software zur Filterung von Bewerber:innenzeigen: Algorithmen haben einen großen Einfluss auf die Verteilung knapper gesellschaftlicher Ressourcen und beeinflussen somit individuelle und gesellschaftliche Teilhabechancen.

Zusammen mit dem iRights.Lab haben wir daher im März 2019 neun Prinzipien für die ethische Entwicklung und den Einsatz algorithmischer Systeme vorgestellt, die in einem offenen und partizipativen Prozess mit über 400 Beteiligten entstanden sind. Die Regeln sollen bereits bei der Entwicklung der Systeme mitgedacht und „by design“ implementiert werden. Wie viele andere Initiativen stand das Algo.Rules-Projekt  vor der Herausforderung, die Leitlinien so weiterzuentwickeln, dass sie in der Praxis angewendetwerden können.

Die Diskussion über die ethische Gestaltung algorithmischer Systeme bleibt häufig bei der Forderung abstrakter Prinzipien stehen. Dabei gibt es viele unterschiedliche Lesarten von Begriffen wie Transparenz und Gerechtigkeit. Wenn wir es mit der digitalen Ethik ernst meinen, müssen allgemeine ethische Prinzipien operationalisiert und in konkrete Maßnahmen übersetzt werden! Im Projekt „Ethik der Algorithmen“ gehen wir diese Herausforderung gemeinsam mit Partnern aus Wissenschaft und Praxis an.
Carla Hustedt, Digitalexpertin der Bertelsmann Stiftung

Deshalb stellen wir nun den Praxisleitfaden für Entwickler:innen und Führungskräfte vor, der zur gemeinsamen Diskussion und schließlich zur Umsetzung der Algo.Rules anleitet. Zu jeder Regel bietet der Leitfaden neben einer Konkretisierung zum besseren Verständnis und Erfolgsfaktoren für die Umsetzung auch praktisch anwendbare Checklisten mit Orientierungsfragen für konkrete Maßnahmen in IT- und Softwareunternehmen.

Sechs Gründe, die Algo.Rules umzusetzen

Viele Menschen, die in ihrer tagtäglichen Arbeit Software designen und entwickeln, sind von der positiven Gestaltungskraft der Technologie überzeugt. Doch laut einer Umfrage von doteveryone befürchten etwa 60 Prozent der Entwickler:innen im Bereich Künstlicher Intelligenz (KI), dass die Software-Produkte, an denen sie arbeiten, auch negative Konsequenzen für Individuen oder Gesellschaft bedeuten können. Mehr als ein Viertel (27 Prozent) kündigt aus diesem Grund.

Neben der Wahrung gesellschaftlicher Verantwortung gibt es deshalb zahlreiche Vorteile, die Algo.Rules umzusetzen. Wir haben im Praxisleitfaden dazu sechs zentrale Gründe für entwickelnde und einsetzende Organisationen zusammengetragen, die Unternehmen zum Handeln motivieren:

  • Grund „Attraktivität“: Die Befragung der Entwickler:innen zeigt: Ethik ist mitunter geschäftsentscheidende Praxis und bestimmt insbesondere in Europa die Wettbewerbsstärke von Unternehmen und ihrer Software-Produkte. Mit der Anwendung von Ethik-Prinzipien können Unternehmen für Arbeitnehmer:innen, wie auch Kund:innen attraktiv bleiben.
  • Grund „Prävention“: Durch die Anwendung der Algo.Rules bereits im Entwicklungsprozess werden zudem Fehler vermieden, die mitunter zu großen (finanziellen) Schäden geführt hätten.
  • Grund „Vertrauen“: Schließlich erhöht die frühzeitige Verankerung der Regeln die Akzeptanz von Softwareprodukten in der Gesellschaft. Gerade der europäische Weg der KI-Entwicklung fokussiert sich daher auf vertrauenswürdige Ansätze.

Weitere Gründe werden im Praxisleitfaden vorgestellt.

Nicht jeder Algorithmus braucht gleich viel Aufmerksamkeit

Die Algo.Rules erheben nicht den Anspruch, auf jedes algorithmische System angewendet zu werden. Denn die Optimierung von Produktionsprozessen hat nicht dieselbe gesellschaftliche Relevanz wie die Zuteilung von Studienplätzen. Deshalb stellen wir zunächst Orientierungsfragen zur Ermittlung der Wirkungsrelevanz vor. Die Fragen zeigen auf, wie das algorithmische System anhand seiner gesellschaftlichen Wirkung eingeordnet werden kann. Um die Ermittlung durchzuführen, braucht es ein diverses und interdisziplinäres Team sowie einen Austausch mit potenziell Betroffenen. Denn: Nur durch unterschiedliche Perspektiven können auch unbeabsichtigte Folgen des Technikeinsatzes mitgedacht werden.

Es braucht Umsetzungshilfen für die Gestaltung von ethischen algorithmischen Systemen

Der Praxisleitfaden stellt für jede Algo.Rule Erfolgsfaktoren vor, die anzeigen, was bei der Umsetzung der Regeln beachtet werden sollte. Für die Algo.Rule „Ziele und erwartete Wirkung dokumentieren“ ist es beispielsweise wichtig, widersprüchliche Interessen sichtbar zu machen. Eine Software zur Verteilung von Schulplätzen kann beispielsweise nicht immer gleichzeitig den kürzesten Weg für alle Kinder und eine soziale Durchmischung unterschiedlicher Einkommensschichten ermöglichen. Welches Ziel der Technologieeinsatz erreichen soll und welche Konflikte dadurch entstehen könnten, muss möglichst ganzheitlich und frühzeitig ermittelt werden.

In unseren Workshops und Konsultationen haben wir viele motivierte Software-Gestalter:innen kennengelernt. Die meisten setzten sich von sich aus für eine ethische Gestaltung ihrer Produkte ein. Doch oft fehlen konkrete Strategien und Maßnahmen, die sie dafür nutzen können!
Lajla Fetic, Digitalexpertin der Bertelsmann Stiftung

Auf die Erfolgsfaktoren folgen Checklisten mit Orientierungsfragen, welche Führungskraft und Entwickler:inim Team durchgehen sollten. Wurden die Ziele für den Einsatz dokumentiert, mögliche Konflikte identifiziert und Maßnehmen für ihre Eindämmung getroffen? Wurde der Einsatz an die unterschiedlichen Bedürfnisse der Betroffenen angepasst? Wer darüber hinaus Impulse zur Umsetzung der Algo.Rules braucht, wird in den weiterführenden Tipps des Leitfadens fündig.

Unternehmen sind gefragt, die Maßnahmen auf ihre Bedarfe anzupassen

Die Arbeit mit vielen Expert:innen aus der Praxis hat gezeigt: Jeder Fall ist anders. Die Praxishilfe zur Umsetzung der Algo.Rules ist dabei ein Anfang, um die oft abstrakte Ethik-Diskussion in die Praxis zu übersetzen und die gesellschaftlichen Ansprüche zu konkretisieren. Unternehmen, die sich bereits zu Prinzipien verpflichtet haben oder Interesse daran haben, die Algo.Rules zu erproben, sind eingeladen den Leitfaden zum Nachdenken und Diskutieren zu nutzen.

Die Verantwortung, die Regel umzusetzen, kann dabei nicht nur bei den Entwickler:innen liegen, sondern muss zentraler Bestandteil der Unternehmenskultur und der Zusammenarbeit zwischen Organisationen werden. In einem bald erscheinenden Impuls zeigen wir auf, wie die verzahnte Verantwortung zwischen dem entwickelnden IT und Software-Unternehmen und der einsetzenden Organisation zu gestalten ist.

Neben den konkreten Hilfen empfehlen wir auch ein Vorgehen zur Arbeit mit dem Leitfaden: So beginnen Sie am besten früh, zeigen innerhalb Ihres Teams die gesellschaftliche Relevanz Ihrer Arbeit auf und etablieren ein kritisches Mindset! Der Leitfaden mit seinen Erfolgsfaktoren und Checklisten ist dabei ein praktischer Startpunkt. Er bildet die Basis für eine „gemeinsame Sprache“ zwischen allen, die algorithmische Systeme mitgestalten. Diskutieren Sie mit, um die Algo.Rules in die Praxis zu bringen!

Publikation: Praxisleitfaden zu den Algo.Rules

Publikation: Praxisleitfaden zu den Algo.Rules

Dieser Leitfaden unterstützt Entwickler:innen und ihre Führungskräfte dabei, die Algo.Rules in ihre Arbeitspraxis zu integrieren. ...

Projekte