KI-Transparenzregister: Mit fünf Empfehlungen von der Idee zur Umsetzung

Für mehr Transparenz im Hinblick auf die Entwicklung und den Einsatz von Künstlicher Intelligenz (KI) sprechen sich alle aus – von der Gerechtigkeitsaktivistin bis zum Tech-CEO. Doch in der konkreten Umsetzung gibt es weniger Einigkeit. Insbesondere beim Einsatz von KI im öffentlichen Sektor ist Transparenz allerdings entscheidend für Akzeptanz in der Bevölkerung. Laut dem eGovernment Monitor 2023 gibt es da deutlichen Nachholbedarf:  21 Prozent der Befragten finden den Einsatz von KI in der Verwaltung unter keinen Umständen in Ordnung.

Einer der Gründe für die Ablehnung ist ein Mangel an Erfahrung und fundiertem Wissen zu KI. Dies ist ein Appell an die öffentliche Verwaltung, niedrigschwellig deutlich mehr Informationen darüber zur Verfügung zu stellen, wo KI-Systeme eingesetzt werden. Doch diese Transparenz fehlt bisher. Lediglich über Kleine Anfragen an den Bundestag oder vereinzelt vorgestellte Leuchtturmprojekte aus Verwaltungen erhalten Bürger:innen Informationen über den Einsatz von KI. Eine systematische Aufbereitung der verwendeten Daten oder Modelle gibt es gar nicht.

Ein Instrument, das dazu beitragen kann, die Lücke zwischen Informationsbedarf und -bereitstellung zu schließen, kann ein KI-Transparenzregister sein. Darin können staatliche Stellen umfassend über die von ihnen eingesetzten Systeme informieren. Im Ausland wird dieser Ansatz bereits seit 2020 genutzt. In den Niederlanden beispielsweise wurde im vergangenen Jahr ein landesweites KI-Register veröffentlicht, das die relevanten Informationen zu verwendeten Algorithmen der öffentlichen Verwaltung bündelt. In Deutschland wird auf politischer Ebene ebenfalls schon länger über ein KI-Register diskutiert. Dies haben wir zum Anlass genommen, in Zusammenarbeit mit dem Institut für Innovation und Technik zu prüfen, ob die Voraussetzungen erfüllt sind, um ein solches Instrument in Deutschland einzuführen, und wie eine solche Umsetzung erfolgen könnte.

Gemeinsam mit zentralen Stakeholdern aus öffentlicher Verwaltung und Expert:innen für den verantwortungsvollen Einsatz von KI wurden in Interviews und Workshops Potenziale und Herausforderungen eines KI-Registers identifiziert: Als großer Mehrwert wurde vor allem die Transparenz über KI-Anwendungen im öffentlichen Sektor sowie die Möglichkeit des Wissensaustausches zu guten Beispielen anderer Verwaltungen genannt. Die Herausforderungen für die erfolgreiche Umsetzung lägen vor allem darin, dass es derzeit in Deutschland noch wenige Anwendungsfälle gibt, die in ein KI-Register übertragen werden können. Bei vorhandenen Anwendungsfällen fehlen wiederum oftmals tiefergehende Informationen, die Entscheidungsvorlagen ausreichend nachvollziehbar werden lassen. Außerdem gaben die Teilnehmer:innen an, dass die Pflege eines KI-Registers einen hohen Ressourcenaufwand erfordern würde.

Aus den Potenzialen und Herausforderungen wurden fünf Empfehlungen abgeleitet: 1) Es braucht ein zentrales KI-Register, 2) das auf Bundesebene verantwortet wird und 3) einem einheitlichen Metastandard folgen sollte. 4) Dabei verlangt die Einführung einen begleitenden Kompetenzaufbau in der Verwaltung und 5) nachhaltige infrastrukturelle Rahmenbedingungen. Während die Expert:innen verschiedener Disziplinen oft unterschiedliche Meinungen vertraten, waren sie sich in einem Aspekt sehr einig: Der Zeitpunkt für die Einführung eines KI-Registers ist gerade sehr günstig.