|
„Erlesenes“ ist ein zweiwöchentlicher Newsletter von reframe[Tech] - Algorithmen fürs Gemeinwohl und bietet eine kuratierte Auswahl an wissenschaftlichen Studien, journalistischen Artikeln und Debattenbeiträgen sowie Fundstücken mit Augenzwinkern aus sozialen Medien zum Themenkomplex Algorithmen und KI. Mit „Erlesenes“ wollen wir den Diskurs rund um algorithmische Entscheidungssysteme und ihre Chancen sowie Risiken für das Gemeinwohl einordnen, wir möchten den Blick über den Tellerrand wagen und Perspektiven fernab des dominierenden Diskurses aufgreifen. So wollen wir die Abonnent:innen in dem sich rasch verändernden Themenfeld up-to-date halten. Jede Ausgabe finden Sie auch auf unserem Blog.
Hier geht's zum Blog!
|
|
|
|
|
|
|
|
|
Liebe Leser:innen,
Regulierung braucht Zivilgesellschaft. Das hat sich nun an den harten und zuweilen zähen Verhandlungen rund um die KI-Verordnung der EU gezeigt, die vergangene Woche im EU-Parlament abgestimmt wurde. Damit hat jetzt auch das Europäische Parlament eine Position für die Trilog-Verhandlungen der kommenden Monate gefunden. Auch dank zivilgesellschaftlichen Engagements (z. B. #Reclaimyourface) hat die Verordnung durchaus den Schutz der Grundrechte im Fokus, etwa wurde das Verbot von biometrischer Gesichtserkennung durchgesetzt (Feier-Emoji). An anderer Stelle, etwa im Migrationsbereich, werden Grundrechte nicht ausreichend geschützt, so die Einschätzung von European Digital Rights (EDRi). Im Bereich der Standardisierung – einer der wichtigsten Hebel in der konkreten Durchsetzung der Verordnung – plädiert das Ada Lovelace Institut für eine stärkere Einbeziehung zivilgesellschaftlicher Stimmen in den verantwortlichen Gremien. Außerdem: ein guter Überblick über die verschiedenen KI-Regulierungsbestrebungen, von der UN über die OECD bis zur EU.
Viel Spaß beim Lesen wünschen
Teresa und Michael
P.S.: Michael fehlt leider auf dem Foto!
Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns immer über Feedback – der Newsletter lebt auch von Ihrer Rückmeldung und Ihrem Input. Melden Sie sich per E-Mail an teresa.staiger@bertelsmann-stiftung.de oder bei Twitter unter @reframeTech.
|
|
|
|
|
So bewerten zivilgesellschaftliche Organisationen den aktuellen Stand der KI-Verordnung
EU Parliament calls for ban of public facial recognition, but leaves human rights gaps in final position on AI Act, EDRi, 14.6.2023
Die letzten Tage vor der Abstimmung der KI-Verordnung im Europäischen Parlament waren noch ganz schön spannend: Nachdem unerwarteterweise doch mehrere Änderungsanträge von der EPP-Fraktion kamen, war nicht ganz sicher, wie der Kompromiss aus dem Komitee nach dem Plenum aussehen wird. Das betraf vor allem das ursprünglich enthaltene Verbot von biometrischer Echtzeitüberwachung. Schlussendlich blieb dann aber alles beim Alten, keiner der Änderungsanträge aus dem Plenum wurde beschlossen. Das bewertet das europäische Digitalrechtenetzwerk EDRi gemischt: Auf der einen Seite ist Erleichterung darüber zu lesen, dass das erwähnte Verbot bestehen bleibt – eine der zentralen Forderungen zivilgesellschaftlicher Organisationen. Auf der anderen Seite sind aber Änderungsanträge gerade aus der linken Fraktion abgelehnt worden, die ein Verbot des Einsatzes von KI-Systemen im Migrationssektor, z. B. für die Koordination illegaler Pushbacks, oder eine Art „Recht auf Erklärung von KI-Outputs“ für Betroffene etabliert hätten. Für diese und weitere Punkte wird EDRi sich auch in den nächsten Monaten einsetzen.
Hier geht’s zum Artikel!
|
Start-ups sind noch nicht bereit für die KI-Verordnung
Sandboxing the AI Act: Testing the AI Act proposal with Europe’s future unicorns, DIGITALEUROPE, 1.6.2023
Wie sind eigentlich die europäischen kleinen und mittleren Unternehmen (KMUs) und Start-ups auf die kommende KI-Verordnung vorbereitet? Der europäische Digitalverband DIGITALEUROPE hat zu dieser Frage im Frühjahr mit zumindest neun Unternehmen gesprochen. Die Antworten deuten vor allem auf Unsicherheiten: Die Mehrheit der Befragten kennt die konkreten Bestimmungen noch nicht und kann auch nicht abschätzen, ob und wie sie selbst betroffen sein wird. Die Tatsache, dass noch keine harmonisierten Standards bestehen, unterstreicht das. Außerdem erwarten die Unternehmen, dass die Umsetzung der KI-Verordnung sich in Europa stark unterscheiden wird. Auf Grundlage der Ergebnisse macht der Branchenverband sechs Empfehlungen. Dazu gehören die Notwendigkeit eines Investitionsplans, mehr Klarheit über den Anwendungsbereich des Vorschlags sowie eine schrittweise Umsetzung und praktische Unterstützung für KMUs. Außerdem sollte sich die EU vorbehalten, die Verordnung auf der Grundlage praktischer Erfahrungen in Zukunft anzupassen.
Hier geht’s zur Studie!
|
|
|
|
|
Wir brauchen in der Standardisierung mehr Zivilgesellschaft
Inclusive AI governance, Ada Lovelace Institute, 30.3.2023
Auch wenn es auf den ersten Blick nicht so aussieht: Die über 90 Seiten lange KI-Verordnung enthält keine detaillierten Regeln für die Umsetzung von Anforderungen bei der Gestaltung von KI-Systemen. Beispielsweise sollen Hochrisikosysteme einen angemessenen Grad an Genauigkeit haben – aber was bedeutet das konkret? Hier setzt der Rechtsakt auf sogenannte „harmonisierte Normen“, die von Standardisierungsgremien entwickelt werden. Christine Galvagna vom Ada Lovelace Institute sieht darin ein Problem: Denn während einige dieser technischen Standards auch grund- und menschenrechtliche Auswirkungen haben werden, sind in den Gremien kaum zivilgesellschaftliche Organisationen vertreten – die über die entsprechende Expertise verfügen. Galvagna fasst in dieser Studie die Situation zusammen und macht einige Empfehlungen, die noch während des Trilogs umgesetzt werden sollten. Dazu gehört die Förderung der Zivilgesellschaft für die aufwendige Mitarbeit in den Gremien und die Einrichtung eines partizipativen KI-Benchmarking-Instituts, das Standards weiter spezifizieren könnte.
Hier geht's zur Studie!
|
Was kann die KI-Verordnung von China lernen?
What can the EU learn from China's generative AI regulation before it adopts its AI Act? Euronews, 23.5.2023
Wie geht eigentlich China vor, wenn es um die Regulierung von sogenannten „generativen KI-Modellen“ geht? Aktivist und Forscher Kris Shrishak hat sich damit näher beschäftigt und findet, dass wir etwas lernen können. So ist nach einem chinesischen Gesetzesentwurf die unberechtigte Nutzung urheberrechtlich geschützter Inhalte und personenbezogener Daten für das Training von KI-Modellen verboten. Urheberrecht spricht die KI-Verordnung nicht an – eine Lücke, findet Shrishak. Bisher haben sich mit dem Thema in Europa vor allem Datenschutzaufsichtsbehörden beschäftigt: Der Europäische Datenschutzausschuss hat eine Task Force zum Austausch von Informationen über die Durchsetzung des Datenschutzes ins Leben gerufen; die britische Wettbewerbsbehörde hat eine Untersuchung über generative KI eingeleitet und die italienische Datenschutzbehörde hat OpenAI gezwungen, begrenzte Verbesserungen beim Datenschutz vorzunehmen (Reuters kuratiert hier übrigens laufend eine Übersicht über KI-Regulierungsbemühungen weltweit). Außerdem kritisiert Shrishak, dass sich die EU bei der Umsetzung der KI-Verordnung auf Selbsteinschätzungen der KI-Entwickler:innen und nicht auf Bewertungen durch Dritte verlässt. Die Gefahr könnten Durchsetzungsprobleme sein, wie wir sie von der Datenschutz-Grundverordnung (DSGVO) kennen.
Hier geht's zum Artikel!
|
|
|
|
|
AI Act, AI Pact, AI Treaty ...
Our quick guide to the 6 ways we can regulate AI, Technology Review, 22.5.2023
Neben der KI-Verordnung gibt es weltweit in einzelnen Ländern, wie in Indien oder Ägypten, sowie auch in internationalen Organisationen weitere Anstrengungen, Regeln für den Einsatz von KI-Systemen aufzustellen. Da kann Mensch schnell den Überblick verlieren. Journalistin Melissa Heikkilä gibt hier einen Überblick über die sechs wichtigsten internationalen Prozesse: einen völkerrechtlichen KI-Vertrag, die Umsetzung der OECD-Prinzipien zu KI, das Global Partnership on AI, technische Standardisierung, Bemühungen innerhalb der UN und natürlich auch die KI-Verordnung. Dabei sei die EU mit ihrer Rechtssetzung aktuell am weitesten und hätte potenziell die Möglichkeit, als „first mover“ auch die Entwicklung anderer Regulierungsbestrebungen weltweit zu beeinflussen. Wer noch mehr über verschiedene Formen der KI-Regulierung erfahren möchte, kann einen Blick in diese ausführliche Analyse werfen.
Hier geht's zum Artikel!
|
|
|
|
|
|
|
Follow-Empfehlung
Ella Jakubovska ist Senior Policy Advisor beim europäischen Digitalrechtenetzwerk EDRi. Sie gehört zur Koordination der „Reclaim Your Face“-Kampagne und twittert regelmäßig zu biometrischer Gesichtserkennung.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
