Beleuchtete Treppenstufen

Auf dem Weg zu Gütekriterien für den Algorithmeneinsatz

Das Projekt Ethik der Algorithmen entwickelt gemeinsam mit dem unabhängigen Think Tank iRights.Lab einen Gütekriterienkatalog für algorithmische Systeme (#algorules), vergleichbar mit dem Pressekodex für den Journalismus oder dem Hippokratischen Eid in der Medizin. Um die #algorules praxisnah zu gestalten, wurde neben Expert:innenworkshops nun auch einen breiter Beteiligungsprozess gestartet.  

Die #algorules enthalten Prinzipien zur Gestaltung von Algorithmen, wie das Schaffen von Transparenz und Nachvollziehbarkeit, das Festlegen von Verantwortlichkeiten vor dem Einsatz der Technologie oder auch der Grundsatz, dass keine Systeme eingesetzt werden dürfen, die der Mensch nicht beherrschen kann. Sie sollen entsprechend für alle an der Entwicklung und dem Einsatz von algorithmsichen Systemen Beteiligten eine Leitlinie darstellen. 

Zentraler Ansatz des Entwicklungsprozesses ist die Einbeziehung möglichst vieler Akteure aus Theorie und Praxis. Dies soll sicherstellen, dass der Katalog für die Praxis relevant ist und dort auch tatsächlich angewendet wird. 

Bereits im Mai 2018 kamen daher hochrangige Vertreter:innen aus Wissenschaft, Politik und Zivilgesellschaft zusammen, um in einem Workshop über die Inhalte der #algorules zu diskutieren. Seitdem hat sich einiges getan: Wir haben einen Konsultationsprozess mit insgesamt 40 Expert:innen durchgeführt, eine Studie zu Erfolgsfaktoren erfolgreicher Professionsethiken veröffentlicht, einen zweiten Workshop zur Diskussion von Implementierungsfragen organisiert und eine breite Umfrage zur Weiterentwicklung der #algorules gestartet.  

In der Umfrage, die noch bis zum 21. Dezember läuft, sind alle Interessierten dazu eingeladen, Fragen zu den bisher erarbeiteten Kriterien des Katalogs zu beantworten und ihre Einschätzung abzugeben. Außerdem haben die Teilnehmenden die Möglichkeit, eigene Vorschläge und Ideen zu äußern und in den Prozess einzubringen. Wir wollen so einen möglichst breiten Einblick in die Entwicklung und Anwendung algorithmischer Systeme erlangen und auf die Anwendbarkeit der erarbeiteten Kriterien hinarbeiten.  

Derweil beschäftigen wir auf Basis des zweiten Expert:innenworkshops weiter mit der Frage: Wie können wir sicherstellen, dass die Gütekriterien in der Praxis angewendet werden? Verschiedene Strategien sind denkbar: Eine Vermittlung der #algorules in Ausbildungsprozessen von Data Scientists und Informatiker:innen, transparente Selbstverpflichtungen durch Unternehmen, die Vergabe von Gütesiegeln für die Einhaltung der Gütekriterien durch unabhängige Prüforganisationen.   

Letztendlich werden verschiedene Ansätze zusammenwirken müssen. Denn: Am Entwicklungsprozess von Algorithmen sind eine Vielzahl an Akteuren beteiligt. Die Lösungsansätze müssen diese Vielfalt widerspiegeln, damit wir Algorithmen in den Dienst der Gesellschaft stellen.