Ein entscheidendes Merkmal für eine differenzierte Analyse algorithmischer Prozesse ist ihre mögliche gesellschaftliche Wirkung. Konkreter: ihr Effekt auf Teilhabechancen. Wieviel Einfluss können ADM-Prozesse ("algorithmic decision making") darauf nehmen, dass jeder einzelne Mensch gleichberechtigt in die politische Willensbildung einer Gesellschaft einbezogen wird? Wie stark ermöglichen Algorithmen, dass jeder an der sozialen, kulturellen und wirtschaftlichen Entwicklung teilhaben kann?
Antworten auf diese Fragen soll ein neu entwickeltes Hilfsmittel erleichtern. Entwickelt haben es die Autoren des Arbeitspapiers "Teilhabe, ausgerechnet"Kilian Vieth und Ben Wagner in unserem Auftrag. Mit ihrem Instrument lässt sich das Wirkungspotenzial von digitalen Entscheidungssystemen, die Menschen bewerten, analysieren. Dafür werden sieben unabhängige Merkmale herangezogen. Die Anwender des Werkzeugs vergeben für ihren untersuchten Fall Punkte – je nachdem, wie stark das jeweilige Kriterium ausgeprägt ist. Ein Kriterium ist zum Beispiel die Betreiberstruktur des untersuchten Prozesses. Hat der Betreiber hoheitliche Macht oder eine marktbeherrschende Stellung, wird bei diesem Kriterium das Wirkungspotenzial hoch bewertet (mit dem Wert 2). Am Ende addiert man die Punktwerte zum Teilhabewirkungspotenzial.
Das Verfahren ist ein erster Vorschlag, um die Debatte über algorithmische Prozesse zu versachlichen. Der Klassifizierungsvorschlag stellt Kriterien aus drei Analysebereichen in den Mittelpunkt: Akteure, die Einbindung in den sozialen Kontext und potenzielle Konsequenzen für Grundrechte. Andere Schwerpunkte sind denkbar und Anregungen sowie Alternativvorschläge willkommen. Für einen Einstieg in das Thema hat die Beschränkung einige Vorteile: Viele Prüffragen sind mit relativ geringem Rechercheaufwand zu beantworten und die Ergebnisse sind leicht vergleichbar. Die Kriterien sind auf Komplexitätsreduktion und Flexibilität ausgerichtet. Das Teilhabewirkungs-Scoring eignet sich damit auch als Methode für Workshops und als Diskussionsgrundlage für strategische Beratungen.
Der Fragenkatalog ist im Gegensatz zu intuitiven Einschätzungen auf unterschiedliche Fälle anwendbar. Es geht bei dem Vergleich nicht darum, wie gut die Verfahren an sich sind, sondern darum, wie sie sich auf Teilhabe auswirken könnten – ob nun positiv oder negativ. Je höher diese Wirkung ausfällt, desto größer müssen Anforderungen und Anstrengungen ausfallen, damit positive Effekte ausgeschöpft und negative Effekte, etwa Diskriminierung durch algorithmische Prozesse, verhindert werden.
Das Arbeitspapier ist Teil einer Untersuchung zum Thema "Teilhabe in Zeiten von Algorithmen und Big Data". Bereits erschienen ist eine Analyse internationaler Fallbeispiele für Prozesse algorithmischer Entscheidungsfindung und der erkennbaren Chancen, Risiken und Handlungsbedarfe.
