Entscheidung über die deutsche KI-Aufsicht: Zentralen Ansprechpartner sicherstellen, ohne neue Silos zu schaffen

Bei wem melde ich KI-Systeme, bei denen es zu Fehlfunktionen kam? Wer schreitet ein, um die Regeln der europäischen KI-Verordnung national durchzusetzen? Wo kann ich anmelden, dass ich einen regulatorischen Experimentierraum nutzen möchte? Auf all diese Fragen sollten Unternehmen wie Bürger:innen in Deutschland zeitnah eine eindeutige Antwort erhalten. Denn diese Aufgaben übernimmt eine KI-Aufsichtsbehörde, die durch den deutschen Gesetzgeber innerhalb von zwölf Monaten nach Verabschiedung der KI-Verordnung festzulegen ist. 

Während andere europäische Länder ihre KI-Aufsichtsstrukturen bereits bestimmt haben, nimmt in Deutschland die Debatte darüber erst langsam Fahrt auf. Vorherige europäische Digitalgesetzgebungen dienen hier als mahnendes Beispiel, da Deutschland zumeist länger als vorgegeben gebraucht hatte, um die Aufsichtsstrukturen umzusetzen.  

Vor dem Hintergrund dieser Erfahrungen hat das Projekt „reframe[Tech] – Algorithmen fürs Gemeinwohl“ der Bertelsmann Stiftung eine verwaltungs- und rechtswissenschaftliche Studie bei Prof. Dr. Mario Martini und Dr. Jonas Botta vom Deutschen Forschungsinstitut für öffentliche Verwaltung Speyer in Auftrag gegeben. Darin leiten die Autoren die Anforderungen an die nationale Aufsichtsstruktur aus der KI-Verordnung ab und wenden diese auf die deutschen Gegebenheiten an.

Aus den europäischen Anforderungen leiten die Autoren ab, dass eine Zentralisierung der KI-Aufsicht auf Bundesebene sinnvoll wäre, da dies einen einheitlicheren Vollzug ermöglichen und Kompetenzen bündeln würde. Gleichzeitig gilt es darauf zu achten, dass keine Silo-Strukturen entstehen, damit alle verfügbaren Kompetenzen bei der Aufsicht von KI einbezogen werden. 

Diesen fachlichen Argumenten steht entgegen, dass in erster Linie die nach Landesrecht zuständigen Behörden für die Marktaufsicht zuständig sind. Die Aufsicht über den KI-Einsatz privater Stellen würde sich zwar durch eine Gesetzesänderung auf Bundesebene zentralisieren lassen. Einer Bundesbehörde wäre es aktuell verfassungsrechtlich allerdings untersagt, die Aufsicht über den KI-Einsatz öffentlicher Stellen auf Landesebene zu übernehmen. Eine vollständige Zentralisierung auf Bundesebene wäre daher nur durch einen Staatsvertrag oder eine Verfassungsänderung möglich. 

Um die Schlagkraft der KI-Aufsicht in der wichtigen Anfangsphase nicht durch den langwierigen Aufbau einer neuen Behörde zu reduzieren, sollte der Bundesgesetzgeber die Aufsichtsaufgaben auf bestehende Strukturen übertragen. Dafür bieten sich das Bundeskartellamt, das Bundesamt für Sicherheit in der Informationstechnik, der Bundesbeauftragte für Datenschutz und die Informationsfreiheit (BfDI) sowie die Bundesnetzagentur (BNetzA) an. Während der Bundesbeauftragte für Datenschutz und die Informationsfreiheit (BfDI)  auf den ersten Blick besonders vielversprechend wirkt, da Datenschutz und KI zusammengedacht werden sollten, spricht die Aufteilung der Kompetenzen auf Landes- und Bundesbeauftragte gegen eine effiziente Umsetzung der KI-Aufsicht. Wenn hingegen die Bundesnetzagentur in ihrer Unabhängigkeit noch weiter gestärkt wird, spricht vieles dafür, dass die Behörde den besten Ausgleich zwischen Innovationsverantwortung und -offenheit zu gewährleisten vermag. 

„Unabhängig von der konkreten Behördenauswahl sollte der Gesetzgeber dafür sorgen, dass Bürger:innen wie Organisationen durch eine stringente und zeitnahe Umsetzung eindeutige Antworten im Hinblick auf die KI-Regulierung bekommen“, schlussfolgern die Studienautoren.