Reagänzgläser in einem Labor, in denen sich ein helles Licht reflektiert.

Mehr Transparenz und zivilgesellschaftliche Kontrolle von Algorithmen

Die Bertelsmann Stiftung fördert die gemeinnützige Organisation AlgorithmWatch. Ziel ist es, gesellschaftlich relevante algorithmische Entscheidungen (ADM) transparent zu machen und einen informierten öffentlichen Diskurs über die Bedeutung, Risiken und Chancen von ADM zu ermöglichen.  Das Engagement der Bertelsmann Stiftung ist auf zunächst neun Monate und einen Finanzierungsumfang von 200.000 Euro angelegt.

Algorithmische Entscheidungsfindung wird immer öfter und in immer mehr Lebensbereichen eingesetzt. Software prägt oder bestimmt Entscheidungen, die das Leben von Menschen beeinflussen: etwa bei der Vorauswahl von Bewerbern oder der Studienplatzvergabe. Bei Gestaltung und Einsatz solcher Systeme gibt es bislang keine übergreifenden Qualitätsstandards, kaum Transparenz und Kontrolle oder Beschwerdemöglichkeiten. Das erschwert den gesellschaftlichen Diskurs über Einsatz, Ziele und Umsetzung teilhaberelevanter Entscheidungssysteme. Damit droht das gesellschaftlich Sinnvolle aus dem Fokus zu geraten: Statt zu größeren Teilhabechancen kann die Digitalisierung auch zu mehr Diskriminierung führen.

Die Bertelsmann Stiftung setzt sich bei algorithmischer Entscheidungsfindung deshalb u. a. für zivilgesellschaftliche Kontrolle und Transparenz ein. In den USA war es etwa die Organisation ProPublica, die erfolgreich auf Fehlentwicklungen bei algorithmischer Entscheidungsfindung hingewiesen hat: Erst nach der öffentlichen Aufarbeitung durch ProPublica begann die Debatte über unangemessene Diskriminierung durch zum Teil seit Jahren in der Justiz eingesetzte Systeme.

AlgorithmWatch wurde 2016 gegründet, wird neben der Bertelsmann Stiftung auch von der Hans-Böckler-Stiftung gefördert und kooperierte bislang zum Beispiel beim Projekt Datenspende mit sechs Landesmedienanstalten.

Aus Sicht des Projekts Ethik der Algorithmen ist AlgorithmWatch prädestiniert dafür, eine zivilgesellschaftliche Kontrollfunktion zu übernehmen. AlgorithmWatch verbindet großes Fachwissen mit großer Unabhängigkeit und teilt unseren Anspruch, Digitalisierung für mehr Teilhabechancen einzusetzen. Die Organisation soll sich mittelfristig zu einer nachhaltig tragfähigen Struktur entwickeln, die nicht auf ein dauerhaftes Engagement der Bertelsmann Stiftung angewiesen ist. Die Arbeit von AlgorithmWatch ist wegweisend und notwendig. Als zivilgesellschaftlicher Akteur übernimmt die Organisation eine wichtige Wächterfunktion, die bislang in Deutschland zu wenig ausgefüllt wird.

Zusatzinformation

Das Projekt „Ethik der Algorithmen“ der Bertelsmann Stiftung macht sich darüber hinaus auch auf zahlreichen anderen Feldern für einen stärken öffentlichen Diskurs über die Chancen und Risiken von ADM stark. Denn Transparenz allein sichert keine öffentliche Auseinandersetzung über die Ziele, die Gestaltung und die gesellschaftlich sinnvolle Vielfalt algorithmischer Systeme. Gebraucht werden auch Beschwerdeinstanzen mit niedrigen Zugangshürden und professionsethische Standards. Die Gestaltung von teilhaberelevanten Systeme muss unabhängig von wirtschaftlichen Partikularinteressen gesellschaftlich ausgehandelten Kriterien unterworfen sein. In einem Lösungslabor erarbeitet das Projekt darüber hinaus mit weiteren Stakeholdern Ideen zu einer teilhabeförderlichen Gestaltung von ADM-Systemen.