Meer mit einem Sonnenuntergang zu sehen

Aus „Ethik der Algorithmen“ wird „reframe[Tech]“

Das neue Projekt der Bertelsmann Stiftung „reframe[Tech] – Algorithmen fürs Gemeinwohl“ entwickelt Lösungen für eine wirksame Kontrolle algorithmischer Risiken und motiviert zur Nutzung von Algorithmen für gemeinwohlorientierte Zwecke. Das neue und deutlich gewachsene Team führt die Arbeit des 2017 gestarteten Projekts „Ethik der Algorithmen“ fort und setzt sich dafür ein, dass sich die Entwicklung und der Einsatz von Algorithmen und Künstlicher Intelligenz stärker am Gemeinwohl orientiert.

Foto Lajla Fetic
Lajla Fetic
Senior Expert Tech Governance und Digitalpolitik
Foto Julia Gundlach
Julia Gundlach
Senior Project Manager



Die Debatte über die gesellschaftlichen Auswirkungen von Algorithmen und Künstlicher Intelligenz (KI) ist erwachsen geworden. Alltäglich interagieren wir in immer mehr Gesellschaftsbereichen mit algorithmischen Systemen. In den vergangenen Jahren ist viel geschrieben und veröffentlicht worden, um dazu beizutragen, dass ethische Erwägungen bei der Gestaltung und dem Einsatz von Algorithmen eine wesentliche Rolle spielen. Dennoch bleiben algorithmische Risiken in der Praxis häufig noch unbehandelt. Gleichzeitig wird die Schlüsseltechnologie fast ausschließlich aus wirtschaftlichen Motiven und Effizienzbestrebungen heraus entwickelt, während gemeinwohlorientierte Potenziale oft ungenutzt bleiben.

Diese Befunde verlangen neue Ansätze und haben uns dazu gebracht, das Kapitel „Ethik der Algorithmen“ zu schließen und mit „reframe[Tech]“ ein neues Projekt zu starten. Denn es braucht nicht mehr nur die ethische Auseinandersetzung mit algorithmischen Systemen, sondern konkrete und verbindliche Umsetzungen von ethischen Prinzipien in die gelebte Praxis. Zudem müssen wir uns relevante Trends, Machtstrukturen und Herausforderungen der Technologieentwicklung in einem größeren Kontext anschauen, um algorithmische Risiken zu reduzieren und gesellschaftliche Chancen heben zu können.

Zivilgesellschaft sollte sich stärker mit der Nutzung von Chancen beschäftigen

In den vergangenen Jahren hat sich eine meinungsstarke digitalpolitische Zivilgesellschaft gebildet. Trotz knapper Ressourcen hat sie die Diskussionen über die ethische Dimension der Technologieentwicklung und -anwendung wesentlich vorangetrieben. Unternehmen und öffentliche Verwaltung können ihre Verantwortung für die Entwicklung und den Einsatz von KI-Technologien nun nicht mehr ignorieren. Umso wichtiger wird es künftig sein, unaufrichtiges Ethics Washing zu verhindern und konkrete Veränderungen anzustoßen und zu begleiten.

Gleichzeitig beobachten wir bei zivilgesellschaftlichen Akteur:innen eine starke Fokussierung auf die Risiken der Technologie. Inklusive digitale Zukunftsvisionen und konkrete Ideen, wie sich diese umsetzen lassen, kommen im (fach)öffentlichen Diskurs bisher kaum vor. Es fehlen sowohl Ressourcen als auch Kompetenzen, um die Potenziale von Algorithmen und KI zur Lösung gesellschaftlicher Probleme zu nutzen.

Politik und Verwaltung müssen ihre Gestaltungsrolle ausfüllen

Auf politischer Seite hat sich die Auseinandersetzung mit Algorithmen und KI von der nationalen auf die europäische Ebene verlagert. Mit dem EU AI Act (Verordnung zur Künstlichen Intelligenz) ist die Debatte außerdem im Bereich der konkreten politischen Regulierung angekommen. Fragen zur Durch- und Umsetzung werden folgen, für die wiederum die nationale Verwaltung als Kontrollinstanz gefragt ist. Doch darüber hinaus nutzen staatliche Stellen selbst auch immer mehr algorithmenbasierte Anwendungen für ihre Arbeit. Hunderte – allerdings meist spärlich dokumentierte – Fälle prägen bereits die Serviceleistungen und Interaktionen mit Bürger:innen. Für beide Rollen muss die öffentliche Hand dringend Kompetenzen und Kontrollinstrumente entwickeln.

Es braucht eine Neuausrichtung der Technologieentwicklung am Gemeinwohl

Mit reframe[Tech] wollen wir dazu beitragen, dass die Gestaltung und der Einsatz von Algorithmen und KI stärker am Gemeinwohl ausgerichtet werden. Das Projektteam verfolgt bis 2025 insbesondere zwei Schwerpunkte: „Algorithmische Risiken minimieren“ und „Chancen für das Gemeinwohl nutzen“. Kompetenzen der öffentlichen Hand und der Zivilgesellschaft in diesen Bereichen aufzubauen, wird ein integraler Bestandteil beider Schwerpunkte sein.

reframe[Tech] will algorithmischen Risiken mit konkreten Lösungen begegnen

Ziel unserer Arbeit im Schwerpunkt „Algorithmische Risiken minimieren“ ist es, die gesellschaftlichen Gefahren von Algorithmen und KI aufzuzeigen, anzugehen und Betroffene davor zu schützen. Dafür haben wir bereits im Vorgänger-projekt über problematische Anwendungsfälle aufgeklärt und erste praxisnahe Kontrollinstrumente wie die Algo.Rules und ein KI-Ethiklabelentwickelt. Künftig werden wir die erarbeiteten Prinzipien zu praxisrelevanten Lösungen weiterentwickeln und sie gemeinsam mit Partnerorganisationen umsetzen:

  • reframe[Tech] will die Gemeinwohllücken in Regulierungsvorschlägen aufdecken. Dafür werden wir in einem europaweiten AI Governance Mapping den aktuellen Diskussionsstand aufbereiten und konkrete Policy-Vorschläge mit Fachexpert:innen aus Politik, Verwaltung und Zivilgesellschaft entwickeln.
  • reframe[Tech] will wirksame Kontrollinstrumente weiterentwickeln und verbreiten, damit insbesondere der Technologieeinsatz durch den Staat transparenter und nachvollziehbarer wird. Als erstes Projektvorhaben setzen wir uns für die Einführung eines KI-Transparenzregisters in Deutschland ein.
  • reframe[Tech] will den Kompetenzaufbau im öffentlichen Sektor vorantreiben, sodass Entscheider:innen und Mitarbeitende Algorithmen und KI tatsächlich gemeinwohlorientiert einsetzen und kontrollieren können. Welche konkreten Kompetenzen dafür nötig sind, wollen wir zunächst mit Umfragen und einem Self-Assessment Tool herausfinden.
  • reframe[Tech] will die große Wissenslücke über Mensch-Software-Interaktionen schließen, damit Anwender:innen weder ein übertriebenes Vertrauen noch eine unbegründete Abneigung gegenüber automatisierten Entscheidungen entwickeln. Welche Faktoren dabei besonders wichtig sind, klären wir in Expertenworkshops und tiefenpsychologischen Studien.

reframe[Tech] will dazu motivieren, die ungenutzten Potenziale von Algorithmen fürs Gemeinwohl zu heben

Im Schwerpunkt „Chancen fürs Gemeinwohl nutzen“ verfolgen wir das Ziel, dass algorithmische Systeme verstärkt eingesetzt werden, um bei der Lösung von konkreten gesellschaftlichen Problemen zu helfen. Bereits im Vorgängerprojekt haben wir das Beispiel der algorithmenbasierten Kitaplatzvergabe in einem Impulspapier eingehend beleuchtet. An diese Arbeit werden wir mit weiteren Anwendungsfällen anknüpfen und uns darüber hinaus für Kompetenzaufbau und verbesserte Rahmenbedingungen für die Zivilgesellschaft einsetzen:

  • reframe[Tech] will Praxisbeispiele für gemeinwohlorientierte Algorithmennutzung in den Diskurs einbringen und ihre Verbreitung unterstützen. Dabei setzen wir im ersten Schritt auf weitere Impulspapiere und loten für spannende internationale Anwendungsfälle Transferkonzepte für Deutschland aus.
  • reframe[Tech] will zivilgesellschaftliche Organisationen dabei unterstützen, die Potenziale von Algorithmen und KI besser für ihre Missionen und Zielgruppen zu nutzen. Dafür engagieren wir uns bereits im European AI Fund, konzipieren aktuell ein Fellowship-Programm für die Wohlfahrt und entwickeln das NewNew-Programmweiter.
  • reframe[Tech] will die Rahmenbedingungen für eine stärkere Förderung von gemeinwohlorientierter Technologieentwicklung verbessern. Im ersten Schritt ermitteln wir die akuten Bedarfe im Ökosystem und schaffen in einem partizipativen Prozess Evidenz, welche Änderungen wie umsetzbar sind.

reframe[Tech] setzt auf Collective Impact mit Kooperationspartner:innen

Im vollen Bewusstsein darüber, wie groß die Herausforderungen und Fragen sind, denen wir uns in den kommenden Jahren widmen wollen, setzen wir auch in Zukunft auf eine enge Zusammenarbeit mit anderen Projekten und Organisationen, die ebenfalls in diesem wichtigen Handlungsfeld aktiv sind. Diese vielfältigen Perspektiven, Herangehensweisen und Haltungen sind entscheidend für den Erfolg der notwendigen gesellschaftlichen Aushandlungsprozesse.

In diesem Zusammenhang danken wir unseren Wegbegleiter:innen und Partner:innen, die die Arbeit des Projekts „Ethik der Algorithmen“ schon in der Vergangenheit bereichert haben. Wir freuen uns darauf, dass sich das neue Projekt „reframe[Tech] – Algorithmen fürs Gemeinwohl“ nun zunächst bis Ende 2025 auf den Weg macht, mit ihnen und anderen eine inklusive und gemeinwohlorientierte digitale Gesellschaft mitzugestalten.