Im Rahmen des Kooperationsprojektes "Algorithmen fürs Gemeinwohl" von Stiftung Neue Verantwortung und Bertelsmann Stiftung haben wir die Chancen und Risiken algorithmischer Systeme sektorübergreifend diskutiert. Nach der Auseinandersetzung mit den drei Anwendungsbereichen Predictive Policing, Robo Recruiting und Gesundheits-Apps stellt Leonie Beining in einem neuen Arbeitspapier die verschiedenen Dimensionen von Nachvollziehbarkeit algorithmischer Systeme vor. 

Der Austausch zwischen verschiedenen Disziplinen und Sektoren ist keine leichte, aber meist sehr hilfreiche Übung. Das gilt auch für die Diskussion zum ethischen Einsatz algorithmischer Systeme. Viele Fragen lassen sich nur durch interdisziplinäre Ansätze und eine Zusammenarbeit von Wissenschaft, Zivilgesellschaft, Wirtschaft und Politik beantworten. Die Stiftung Neue Verantwortung und die Bertelsmann Stiftung haben daher im Projekt „Algorithmen fürs Gemeinwohl“ für drei exemplarische Anwendungsbereiche (Predictive Policing, Robo Recruting, Gesundheitsapps) die Chancen und Risiken algorithmischer Systeme analysiert und in intersektoralen Workshops Lösungsansätze entwickelt. Tobias Knobloch und Carla Hustedt, die das Projekt geleitet haben, stellen hier die übergreifenden Ergebnisse vor.

Im Rahmen des Kooperationsprojektes "Algorithmen fürs Gemeinwohl" von Stiftung Neue Verantwortung und Bertelsmann Stiftung haben wir drei Anwendungsfelder algorithmischer Systeme sektorübergreifend diskutiert. Nach der Auseinandersetzung mit Predictive Policing und Robo Recruiting  analysiert Anita Klingel nun die Chancen und Risiken beim Einsatz von Gesundheits-Apps für Patient:innen in einem neuen Arbeitspapier. 

Die Diskussion über die gesellschaftlichen Auswirkungen von Algorithmen hat an Fahrt angenommen. Immer mehr Initiativen weltweit arbeiten an der Entwicklung von Regeln für den ethischen Einsatz der Technologie. Doch wie können wir sicherstellen, dass die Vorschläge auch umgesetzt werden? Zur Diskussion möglicher Implementierungswege kamen auf Einladung der Bertelsmann Stiftung und des iRights.Lab sieben internationale Initiativen in Berlin zusammen. 

Gemeinnützige Stimmen sind im gesellschaftlichen und politischen Diskurs rund um den digitalen Wandel unterrepräsentiert. Die Zivilgesellschaft hat allerdings selbst mit den digitalen Veränderungen zu kämpfen und braucht dabei Unterstützung. Was Politik und Verwaltung konkret dafür tun kann, zeigt ein neues Impulspapier, das wir mit der Robert Bosch Stiftung, Phineo und der Stiftung Neue Verantwortung veröffentlicht haben. 

Der Einsatz von Algorithmen ist längst keine Science-Fiction mehr, sondern Realität. Wir müssen deshalb das Verhältnis von Mensch und Maschine neu bewerten. Wie wirkt Künstliche Intelligenz auf uns und unsere Gesellschaft? Wo können uns Algorithmen bereichern, wo gilt es, ihrer drohenden Allmacht Einhalt zu gebieten? Ein neues Buch sucht Antworten auf die drängendsten Fragen.

Nach dem erfolgreichen Launch der 9 Regeln für die ethische Gestaltung und den Einsatz algorithmischer Systeme im März 2019 arbeiten wir nun zusammen mit dem iRights.Lab an der Personalisierung und praxisnahen Ausgestaltung der Algo.Rules. Ein partizipativer Entwicklungsprozess bleibt dabei Kern unserer Arbeit. In den letzten Monaten haben wir uns in Workshops zunächst mit Entwickler:innen in Berlin und dann mit Führungskräften in Zürich ausgetauscht, um die Regeln so zu konkretisieren, dass sie im Alltag der zwei Gruppen umgesetzt werden können. Die Ergebnisse des Austauschs fließen in einen Praxisleitfaden für Entwickler:innen und Empfehlungen an Führungskräfte.

Mit der Hoffnung, bessere Mitarbeiter:innen und den passenden Arbeitsplatz zu finden, nutzen Personalverantwortliche, wie Bewerber, vermehrt algorithmische Systeme. Welche Chancen und Herausforderungen die neuen Technologien mit sich bringen und wie sich Personaler:innen für den Wandel ihres Berufsfelds rüsten können, diskutieren Carla Hustedt und Tobias Knobloch in unserem neuen Policy Paper.

Algorithmen bestimmen immer häufiger für und über Menschen und entscheiden somit über gesellschaftliche Teilhabe. Damit die Digitalisierung zu mehr Chancen für alle Menschen führt, braucht es Regeln. Bertelsmann Stiftung und iRights.Lab haben deshalb in einem breiten Beteiligungsprozess die Algo.Rules entwickelt, mit denen ethische Standards im Programmiercode verankert werden können.

Vielen Bürgern der Europäischen Union fehlen grundsätzliche Kenntnisse über Algorithmen. Im Rahmen einer europaweit repräsentativen Umfrage haben wir erforscht, was die Menschen in Europa über Algorithmen wissen, von ihnen halten und sich erhoffen.

Der Einsatz automatisierter Entscheidungen (automated decision-making, ADM) und Künstlicher Intelligenz nimmt Fahrt auf: In Finnland werden private E-Mails von Jobsuchenden analysiert, um Persönlichkeitsprofile zu erstellen, in Italien helfen Maschinen zu entscheiden, wer eine medizinische Behandlung erhält, in Dänemark sollen automatisierte Systeme dabei helfen, vernachlässigte Kinder zu identifizieren. Für politische Entscheidungsträger ist es derzeit kaum möglich, zu überblicken, wo welche Systeme zu welchen Zwecken eingesetzt werden. Auf EU-Ebene und in einigen Mitgliedstaaten wird daher meist theoretisch über Kriterien diskutiert, nach denen derartige Systeme beurteilt werden sollten, etwa durch ethische Leitlinien.

Um den digitalen Wandel erfolgreich zu meistern, brauchen wir eine starke und engagierte Zivilgesellschaft. Die Wirtschaft als Treiber reicht nicht aus. Der Dritte Sektor wird zwar zunehmend digitaler, steht in Summe aber noch am Anfang. Dies zeigt ein Report, den wir mit der Robert Bosch Stiftung, Phineo und der Stiftung Neue Verantwortung erstellt haben.

Das Projekt Ethik der Algorithmen entwickelt gemeinsam mit dem unabhängigen Think Tank iRights.Lab einen Gütekriterienkatalog für algorithmische Systeme (#algorules), vergleichbar mit dem Pressekodex für den Journalismus oder dem Hippokratischen Eid in der Medizin. Um die #algorules praxisnah zu gestalten, wurde neben Expert:innenworkshops nun auch einen breiter Beteiligungsprozess gestartet.  

Mit der Hoffnung, polizeiliche Ressourcen effektiver einzusetzen, nutzen deutsche Sicherheitsbehörden Software, um Prognosen über zukünftige Verbrechensareale zu erstellen. Welche Chancen und Herausforderungen die neuen Technologien mit sich bringen, diskutierte Tobias Knobloch von der Stiftung Neue Verantwortung mit Joachim Eschemann vom Innenministerium Nordrhein-Westfalen in einem Hintergrundgespräch.

Menschen, die algorithmische Systeme gestalten und einsetzen, haben eine moralische Verantwortung. Doch warum sollten sie dieser nachkommen? Eine verbindliche Professionsethik könnte die Antwort sein. Wie wir dabei von erfolgreichen Vorbildern lernen können, ist das Thema unseres neuen Arbeitspapiers.

Sieben hochrangige Vertreter:innen aus Wissenschaft, Politik und Zivilgesellschaft trafen sich am Ende Mai in Berlin, um über die Gestaltung eines Gütekriterienkataloges für Algorithmen zu diskutieren. Die Veranstaltung war der Auftakt für einen groß angelegten Prozess, den der Think Tank iRights.Lab im Auftrag der Bertelsmann Stiftung organisiert. 

Was dürfen Algorithmen und was nicht? Welche Qualitätsstandards müssen sie erfüllen? Zu welchen Zwecken dürfen sie eingesetzt werden? Wichtige Fragen, zu denen es bisher keine Einigung gibt. Eine Vielzahl internationaler Organisationen versucht, sie durch die Formulierung von Gütekriterien für Algorithmen zu beantworten und so eine Grundlage für einen ethischeren Einsatz algorithmischer Systeme zu schaffen.  In unserem Arbeitspapier „Gütekriterien für algorithmische Prozesse“ werden drei Vorschläge genauer in den Blick genommen und hinsichtlich ihrer Stärken und Schwächen analysiert.

Partnersuche, Online-Shopping, Job-Bewerbung  – Algorithmen sind längst Teil unseres Alltags. Doch nur wenige wissen, wo Algorithmen eingesetzt werden und wie wirkmächtig sie sind. Um die Menschen auf die algorithmische Gesellschaft vorzubereiten, braucht es eine breite öffentliche Debatte, mehr Kompetenzen bei den Bürgern und eine aktive staatliche Kontrolle.

Verträglichkeitsprüfungen, Qualitätssiegel für Herkunft und Güte von Daten, Verbandsklagerechte für die Antidiskriminierungsstelle des Bundes, eine kompetente Algorithmenagentur – es gibt viele sehr konkrete Ideen, was zu tun ist, um algorithmische Systeme zum Wohl aller Menschen zu nutzen. Das Arbeitspapier „Damit Maschinen den Menschen dienen“ zeigt das Spektrum der bisher in Wissenschaft, Wirtschaft, Zivilgesellschaft und Politik diskutierten Lösungsansätze und systematisiert den Überblick.

Wir wagen den großen Wurf: Der Think Tank iRights.Lab entwickelt einen Gütekriterienkatalog für gesellschaftlich relevante algorithmische Prozesse. Dazu organisiert das iRights.Lab im Auftrag der Bertelsmann-Stiftung einen umfangreichen Meinungsbildungsprozess in Kooperation mit hochrangigen externen Spezialistinnen und Spezialisten und unter Einbeziehung einer Vielzahl von Stakeholdern aus Politik, Wirtschaft, Wissenschaft und Verbänden.

Algorithmen bewerten Menschen und entscheiden über sie – etwa in Bewerbungsverfahren oder bei der Kreditvergabe. Bislang läuft dies noch fast unkontrolliert ab, was zu falschen Bewertungen oder gar Diskriminierungen führen kann. Die ab Mai wirksame Datenschutz-Grundverordnung (DSGVO) wird daran nur wenig ändern. Dies zeigt eine Analyse in unserem Auftrag.

Der Entwicklungsprozess von algorithmischen Entscheidungssystemen ist lang und eine große Anzahl unterschiedlicher Akteure ist daran beteiligt. Deshalb können an vielen Stellen Fehler passieren – die meisten lassen sich aber vermeiden oder behe-ben. Katharina Zweig beschreibt anschaulich, wie algorithmische Systeme derzeit ent-wickelt und eingesetzt werden, und zeigt Verantwortlichkeiten sowie potenzielle Feh-lerquellen auf.   

In unserer neuen Publikation “Digitalisierung braucht Engagement” (hier lesen) zeigen wir auf, warum es starke zivilgesellschaftliche Stimmen im Feld der Digitalisierung braucht und welche Aufgaben gemeinnützige Organisationen übernehmen sollten. Darüber hinaus diskutieren wir Hürden, an denen eine Verstärkung des Engagements bisher oft scheitert, und geben Empfehlungen, wie solche Hemmnisse abgebaut werden könnten. 

Die Bertelsmann Stiftung fördert die gemeinnützige Organisation AlgorithmWatch. Ziel ist es, gesellschaftlich relevante algorithmische Entscheidungen (ADM) transparent zu machen und einen informierten öffentlichen Diskurs über die Bedeutung, Risiken und Chancen von ADM zu ermöglichen.  Das Engagement der Bertelsmann Stiftung ist auf zunächst neun Monate und einen Finanzierungsumfang von 200.000 Euro angelegt.

Mehr als 57 Prozent der deutschen Internetnutzer informieren sich auch über Suchmaschinen und soziale Netzwerke über das Zeitgeschehen. In den USA nutzen bereits 44 Prozent der Erwachsenen Facebook regelmäßig als Nachrichtenquelle. Der Begriff "Öffentlichkeit" definiert sich also neu – weil nun algorithmische Prozesse und psychologische Faktoren dazu beitragen, was wir als Nachricht wahrnehmen und wie wir es wahrnehmen. Ein neues Arbeitspapier untersucht, was wir über diesen Wandel wissen – und wie er für mehr Teilhabe genutzt werden kann.

Algorithmen bestimmen unser Leben nicht nur auf Facebook, sondern auch in vielen anderen Lebensbereichen: Für die Einsatzplanung der Polizei beobachten und bewerten algorithmische Prozesse, wie oft in Wohnvierteln eingebrochen wird. Oder aber sie überwachen für Versicherungen die Fahrweise in manchen Autos. Wir haben ein Verfahren entwickelt, mit dem man solche Prozesse darauf überprüfen kann, wie viele Chancen auf Teilhabe sie ermöglichen können.

Kriminalitätsprognosen, Kreditvergabe, Bewerberauswahl: Algorithmische Systeme beeinflussen heute auf unterschiedlichen Gebieten die Leben vieler Menschen. Damit maschinelle Entscheidungen den Menschen dienen, braucht es gesellschaftliche Gestaltung, zum Beispiel in Form von Gütekriterien für algorithmische Prognosen. Vorhersagen müssen sachgerecht angewendet werden, widerlegbar und unabhängig zu überprüfen sein.