Handy als Kompass genutzt
Alex Perez / Unsplash – Unsplash License, https://unsplash.com/license

, Arbeitspapier: Wie sich Gestalter von Algorithmen ethisch verhalten können

Menschen, die algorithmische Systeme gestalten und einsetzen, haben eine moralische Verantwortung. Doch warum sollten sie dieser nachkommen? Eine verbindliche Professionsethik könnte die Antwort sein. Wie wir dabei von erfolgreichen Vorbildern lernen können, ist das Thema unseres neuen Arbeitspapiers.

Eine Professionsethik für Algorithmiker! Solch eine Forderung wird dieser Tage immer lauter. Nicht zu Unrecht, denn Experten aus verschiedensten Disziplinen berichten über den stetig zunehmenden sozialen Einfluss algorithmischer Systeme. Ob ein solches System Schaden anrichtet oder die Welt verbessert, dafür sind – und auch das ist mittlerweile weithin bekannt – Menschen verantwortlich. Von der Zielsetzung und Entwicklung der Systeme, über die Auswahl der Trainingsdaten bis hin zum eigentlichen Einsatz, spielen menschliche Entscheider die Schlüsselrolle.

Dieser Einsicht gegenüber steht jedoch eine Realität, die neben der Einhaltung des allgemeinen rechtlichen Rahmens kaum ethische Anforderungen an das berufliche Tun von Algorithmikern stellt. Besonders im englischsprachigen Raum bemühen sich daher derzeit einige hochrangige Institutionen, dies zu ändern. Das Ergebnis: Eine Reihe vielversprechender Gütekriterienkataloge für Algorithmen und berufsethischer Richtlinien für die Gestaltung.

Verbindlichkeit, und wie andere sie sicherstellen

Dennoch lässt sich feststellen, dass vielen dieser Dokumente vor allem eines fehlt: die Verbindlichkeit. Ohne dieses Charakteristikum bleiben die wichtigen Forderungen ohne Effekt und die Bemühungen vielmehr eine intellektuelle Übung. Weitere Ergebnisse unserer Stärken- und Schwächenanalyse bestehender Forderungskataloge finden Sie hier.

In anderen Tätigkeitsfeldern scheint die Herausbildung eines umfassenden Berufsethos hingegen geglückt zu sein. Man denke nur an die Medizin oder den Journalismus. Doch worauf beruht die Verbindlichkeit erfolgreicher Professionsethiken? Und wie lässt sich ihr Erfolg messbar machen? Was können wir von Pressekodex, Hippokratischem Eid und Co. lernen? Und wie können wir diese Ergebnisse auf das Feld der Algorithmengestaltung übertragen? Genau diese Fragen beantworten wir in unserer Studie "Ethik für Algorithmiker – Was wir von erfolgreichen Professionsethiken lernen können".

Sechs Professionsethiken und ihre Erfolgsgeheimnisse

In der Expertise untersuchen Alexander Filipovic, Christopher Koska und Claudia Paganini die professionsethische Natur von sechs Berufsfeldern: Medizin, Soziale Arbeit, Journalismus, Öffentlichkeitsarbeit, Werbung und Ingenieurwesen. Für jedes dieser Gebiete analysieren die Autoren, welche Faktoren den Erfolg der jeweiligen Professionsethik bedingen.

Insgesamt identifizieren sie zehn Erfolgsfaktoren für verbindliche Professionsethiken. Diese sind in der untenstehenden Abbildung zusammengefasst. Es lässt sich festhalten, dass keineswegs das Vorhandensein aller zehn Charakteristika erforderlich ist, um ein verbindliches Berufsethos zu schaffen. Vielmehr können einzelne Faktoren die Abwesenheit anderer kompensieren.

Grafik
Algorithmiker können viel aus der Professionsethik anderer Berufsfelder lernen.

Lehren für die Algorithmengestaltung

Um Aussagen zur Übertragbarkeit dieser Faktoren auf die Algorithmengestaltung zu tätigen, wird dieses Feld von den Autoren näher beschrieben und eingegrenzt. Von den historischen Wurzeln bis hin zur zunehmenden Ausdifferenzierung des Berufes in der Gegenwart entsteht ein umfassendes Bild seiner Besonderheiten.

Zuletzt illustrieren die Autoren, wie die Lehren aus den analysierten Professionsethiken auf die Arbeit an algorithmischen Systemen übertragen werden können. So schlagen sie beispielweise vor, die historischen Wurzeln der Algorithmik zurückzuverfolgen und das "Ethos der ersten Algorithmikerinnen und Algorithmiker auszuleuchten", um so ein Gefühl für eine gemeinsame historische Tradition zu schaffen.

Auch das Herausbilden eines persönlichen sozial-ethischen Verständnisses unter den Verantwortlichen ist laut den Autoren von großer Wichtigkeit. So sollten bestehende Initiativen, die sich mit berufsethischen Herausforderungen im Feld der Algorithmengestaltung beschäftigen, professionell unterstützt werden. Wenn bei der Entwicklung von professionsethischen Leitbildern eine Vielzahl von relevanten Akteuren eingebunden wird, haben solche Prozesse das Potenzial, ein verbindliches Ergebnis hervorzubringen.

Alle weiteren Erkenntnisse finden Sie in ausführlicher Form in unserem Arbeitspapier.
Wir selbst arbeiten diese derzeit in unseren #algorules-Prozess ein. Zusammen mit dem iRights.Lab haben wir es uns zum Ziel gesetzt, einen Gütekriterienkatalog für Algorithmen (die #algorules) zu entwickeln und effektiv einzusetzen. Welche Schritte dazu nötig waren, sind und sein werden, haben wir hier zusammengefasst.

Ansprechpartnerin

Ansprechpartnerin

Noëlle Rohde

Project Manager
Telefon: +49(5241)81-81141
Profil

Projekte

pixabay_pieces-of-the-puzzle-592798_Montage-ST-MT.jpg(© Hans/pixabay.com - CC0, Public Domain, https://creativecommons.org/publicdomain/zero/1.0/legalcode)

Arbeitspapier: Welche Lösungen es jetzt braucht, damit algorithmische Prozesse den Menschen dienen

shutterstock_520256158_Premier_Cover_4_Retusche.jpg_ST_IFT(© Shutterstock / Alexander Image)

Studie: Datenschutz-Grundverordnung bietet zu wenig Kontrolle für Algorithmen

shutterstock_695631085_Premier_Cover_1_Retusche.jpg_ST_IFT(© Shutterstock / William Perugini)

Umfrage: Deutschland noch nicht in der algorithmischen Welt angekommen

Platinenzauber-1853-247-200dpi.jpg(© Konrad Lischka)

Arbeitspapier: Wenn Maschinen Menschen bewerten