Algorithmische Systeme entscheiden über die gesellschaftliche Teilhabe von Menschen. Wer bekommt einen Kredit? Welche Bewerbung wird aussortiert? Wie werden knappe Studienplätze verteilt? Ob solche automatisierten Entscheidungen zu mehr Chancengerechtigkeit führen oder soziale Ungleichheit verstärken, liegt an uns Menschen.
In der Projektlaufzeit von „Ethik der Algorithmen“ haben wir uns deswegen darum bemüht, die Öffentlichkeit für das Thema zu sensibilisieren, den Diskurs zu strukturieren und konkrete Lösungsansätze zu entwickeln. Dabei haben wir uns insbesondere darauf konzentriert, Risiken algorithmischer Systeme durch wirksame Kontrolle zu minimieren, die Vielfalt im digitalen Raum zu stärken und die Chancen fürs Gemeinwohl zu heben.
In den fünf Jahren der Projektlaufzeit haben wir 56 Publikationen veröffentlicht und über unseren Blog „Algorithmenethik“ mit 224 Beiträgen über 160.000 Besucher:innen informiert. Einige Veröffentlichungen hatten dabei in unserer Arbeit eine besondere Bedeutung: Aus der Projektarbeit ist das Buch „Wir und die intelligenten Maschinen“ von Jörg Dräger und Ralph Müller-Eiselt entstanden, das anhand von 40 plastischen Fallbeispielen die Reichweite von Algorithmen beschreibt und ihre soziale Relevanz aufzeigt.
2018 haben wir zum ersten Mal erhoben, was Deutschland über Algorithmen weiß und denkt, und damit aufgezeigt, dass die Bevölkerung noch nicht in der algorithmischen Welt angekommen ist, obwohl Algorithmen längst Teil unseres Alltags sind. Weitere Evidenz zu der Diskrepanz zwischen gelebter Realität und eigenem Erfahrungshorizont haben wir 2019 mit einer europäischen Umfrage und einem Deutschland-Update 2022 geschaffen. Zusätzlich ist 2021 eine Analyse des Mediendiskurses über Algorithmen und Künstliche Intelligenz der vergangenen 15 Jahren erschienen, die blinde Flecken beim Gemeinwohl aufdeckt.
Schon früh in der Projektarbeit wurde deutlich, dass die Gestaltung und der Einsatz von algorithmischen Systemen ethische Fragen aufwerfen. Deshalb haben wir die Algo.Rules – 9 Regeln zur Gestaltung algorithmischer Systeme mit dem iRights.lab und fast 500 Beteiligten entwickelt. Das große Interesse daran mündete in einem ergänzenden Praxisleitfaden für Programmierer:innen und Entscheider:innen sowie in einer Handreichung für die digitale Verwaltung. Darüber hinaus haben wir in der AI Ethics Impact Group das Konzept eines KI-Ethik-Labels erarbeitet. Außerdem haben wir den Aufbau der gemeinnützigen Organisation AlgorithmWatch unterstützt und gemeinsam im Automating Society Report hunderte Algorithmeneinsätze in Europa aufgedeckt.
Wir haben uns auch der Frage gewidmet, wie diversere Stimmen in die Debatte über unsere digitalen Zukünfte eingebunden werden können und gemeinsam mit dem Superrr Lab das NewNew-Fellowship ins Leben gerufen. Zwölf Projekte aus ganz Europa haben in einem sechsmonatigen Stipendienprogramm inklusive digitale Zukunftsvisionen entwickelt.
Auch wenn das Projekt „Ethik der Algorithmen“ seinen Abschluss gefunden hat, geht die Arbeit des deutlich gewachsenen Teams weiter. Das Nachfolgeprojekt „reframe[Tech]“ hat das Ziel, Technologieentwicklung stärker am Gemeinwohl auszurichten und wird sich dabei auch künftig dafür einsetzen, algorithmische Risiken zu minimieren und Chancen für das Gemeinwohl zu heben.
