|
„Erlesenes“ ist ein zweiwöchentlicher Newsletter von Digitalisierung und Gemeinwohl und bietet eine kuratierte Auswahl an wissenschaftlichen Studien, journalistischen Artikeln und Debattenbeiträgen sowie Fundstücken mit Augenzwinkern aus sozialen Medien zum Themenkomplex Algorithmen und KI. Mit „Erlesenes“ wollen wir den Diskurs rund um algorithmische Entscheidungssysteme und ihre Chancen sowie Risiken für das Gemeinwohl einordnen, wir möchten den Blick über den Tellerrand wagen und Perspektiven fernab des dominierenden Diskurses aufgreifen. So wollen wir die Abonnent:innen in dem sich rasch verändernden Themenfeld up-to-date halten. Jede Ausgabe finden Sie auch auf unserem Blog. Hier geht's zum Blog!
|
|
|
|
|
|
|
|
|
|
Liebe Leser:innen,
mittlerweile lassen sich zu allen großen KI-Anbietern Berichte finden, dass deren KI-Modelle in Tests zu unbefugten Zugriffen auf fremde Systeme genutzt wurden (wir berichteten). Kein Wunder, dass auch diese Woche die Debatte über die Sicherheit von KI-Systemen nicht abreißt.
Mit der EU-KI-Verordnung hat sich die Europäische Union eigentlich ein Werkzeug gegeben, um den Einsatz Künstlicher Intelligenz (KI) im gemeinsamen Wirtschaftsraum zu regeln. Allerdings, so Gianmarco Gori, Gastprofessor für Recht, Wissenschaft, Technologie und Gesellschaft an der Vrije Universiteit (VU) Brüssel, stützt sich die KI-Verordnung auf Konzepte wie das „Inverkehrbringen“ oder die „Inbetriebnahme“ von KI-Produkten. Dies werfe Fragen im Zusammenhang mit oben genannten Sicherheitsvorfällen auf, an denen KI-Modelle beteiligt sind, die zwar noch nicht offiziell auf den Markt gebracht wurden, aber trotzdem mit realen Systemen interagieren, so der Wissenschaftler.
Andere befeuern die Sicherheitsdebatte direkt mit einem drohenden Weltuntergang. So glaubt der Senior-Wissenschaftler Evan Hubinger von Anthropic einem Post auf Social Media zufolge, dass die Gefahr eines durch KI ausgelösten Aussterbens der Menschheit innerhalb der nächsten zehn Jahre mehr als 10 Prozent beträgt. Wie gut, dass Arvind Narayanan und Sayash Kapoor im zweiten Artikel mal einen Blick hinter die Nützlichkeit und das Zustandekommen solcher vermeintlich präzisen Zahlen werfen. Sie argumentieren, dass z. B. Politiker:innen gut daran täten, spekulative Risikoschätzungen nicht für ihre Entscheidungen heranzuziehen.
Ein anderes, greifbareres und sehr wahrscheinlich unterschätztes Risiko von Künstlicher Intelligenz sind die sogenannten „enabled emissions“. Damit werden Emissionen klimaschädlicher Gase bezeichnet, die erst durch die Nutzung von KI ermöglicht werden, beispielsweise indem neue Lagerstätten von Öl und Gas gefunden, Bohrungen beschleunigt und mehr fossile Energien aus bestehenden Feldern gefördert werden. Eine neue Studie schätzt diese Emissionen nun deutlich höher ein als bisher.
Apropos „enablement“: Während KI im Hintergrund arbeitet, kann vorne bewusst auch ein gemächliches Café mit Zeit für handgemachte Gerichten und viel Gastfreundschaft entstehen. Na, besser so und guten Appetit!
Viel Spaß beim Lesen wünschen
Elena und Jens
Ihnen wurde dieser Newsletter weitergeleitet? Hier geht es zum Abo: www.digitalisierung-und-gemeinwohl.de/newsletter/
Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns immer über Feedback – der Newsletter lebt auch von Ihrer Rückmeldung und Ihrem Input. Melden Sie sich per E-Mail an asena.soydas@bertelsmann-stiftung.de, jens.preussner@bertelsmann-stiftung.de oder per LinkedIn @Digitaliserung&Gemeinwohl.
|
|
|
|
|
Der blinde Fleck der KI-Verordnung?
Europe Says Its AI Rules Are Enough. AI Agents Are Testing That Claim, Tech Policy Press, 21.9.2026
Bei einem Cybersicherheitstest wurden durch einen KI-Agenten auf Basis von Googles Gemini-Modell öffentlich verfügbare Informationen aus dem Internet verarbeitet und daraus Zugangsdaten abgeleitet. Dadurch kam es zu Zugriffen auf die Systeme dreier Unternehmen, die eigentlich nicht Teil des Tests waren. Für die EU stellt sich damit die Frage, wie weit die KI-Verordnung bereits in der Testphase greift, also bevor ein Modell auf dem Markt ist. Die EU-Kommission betont zwar, dass die bestehenden Regeln ausreichen, und verweist darauf, dass Anbieter bestimmter KI-Modelle mit allgemeinem Verwendungszweck systemische Risiken über den gesamten Lebenszyklus hinweg bewerten und mitigieren müssen. Das Europäische KI-Büro kann außerdem verlangen, die Bereitstellung eines Modells auf dem EU-Markt einzuschränken oder es zurückzurufen. Expert:innen geben jedoch zu bedenken, dass unklar bleibt, wie diese Befugnisse in der Praxis auf Modelle angewendet werden können, die sich noch in der Testphase befinden. Dazu kommt eine weitere Herausforderung, nämlich die Verteilung der Verantwortung. Denn an einem solchen Vorfall können mehrere Akteur:innen beteiligt sein: Anbieter des Modells, diejenigen, die es in ein agentisches System integrieren, sowie diejenigen, die diesem System schließlich Zugriff auf das Internet oder Zugangsdaten gewähren. Bei grenzüberschreitenden Vorfällen wird die Zuständigkeit noch komplizierter, da die KI-Verordnung für solche Fälle keinen allgemeinen Notausschalter vorsieht.
Hier geht’s zum Artikel!
|
Null, 0,25 oder 12 Prozent Weltuntergang?
AI existential risk probabilities are too unreliable to inform policy, normaltech.ai, 26.7.2026
Die Debatte über existenzielle Risiken durch KI-Technologien wird oft mit Wahrscheinlichkeitsangaben geführt. Doch die Computer-Wissenschaftler Arvind Narayanan und Sayash Kapoor behaupten, dass solche Prognosen zu unzuverlässig sind, um als Grundlage für politische Entscheidungen zu dienen. Die Autoren stellen drei gängige Methoden zur Schätzung von Wahrscheinlichkeiten vor: induktive, deduktive und subjektive. Bei induktiven Schätzungen fehlt für KI-Risiken eine passende Referenzklasse, da es keine historischen Vergleichsfälle gibt. Deduktive Ansätze scheitern am Fehlen einer belastbaren Theorie, die die komplexen Zusammenhänge von KI-Entwicklung und -Kontrolle abbildet. Subjektive Einschätzungen sind oft nichts weiter als spekulative Vermutungen, die stark variieren. Ein Prognoseexperiment zeigt, wie weit die Einschätzungen auseinandergehen können: Die von KI-Expert:innen geschätzte Wahrscheinlichkeit eines KI-bedingten Untergangs der Menschheit bis 2100 lag zwischen 0,25 und 12 Prozent. Die Autoren kritisieren, dass solche Zahlen oft als scheinbar präzise Grundlage für politische Maßnahmen herangezogen werden, obwohl sie keine solide Basis haben. Ohne belastbare Belege seien Entscheidungen, wie beispielsweise ein Stopp der KI-Entwicklung, jedoch unklug. Anstatt auf spekulative Risikoschätzungen zu setzen, plädieren die Autoren dafür, dass sich die Politik auf greifbarere Aspekte wie die Entwicklung von KI-Meilensteinen konzentriert. Auch hier gebe es zwar Herausforderungen, etwa bei der Definition klarer Kriterien, doch diese Ansätze seien aussagekräftiger und politisch besser nutzbar.
Hier geht‘s zum Artikel!
|
|
|
|
|
Die fossile Seite von KI-Technologie
AI’s climate problem is worse than we thought, Heated, 12.8.2026
In der öffentlichen Diskussion über KI-Technologie und Klimawandel wurde bisher fast ausschließlich der Stromverbrauch der Rechenzentren thematisiert. Eine neue Studie verdeutlicht jedoch, dass der Klimaschaden durch KI-Systeme weit darüber hinausgeht. Der Fokus liegt zwar auf dem hohen Energiebedarf, doch KI-Systeme kommen auch bei der Öl- und Gasförderung zum Einsatz, beispielsweise um neue Lagerstätten zu finden, Bohrungen zu beschleunigen und mehr aus bestehenden Feldern zu fördern. Techunternehmen entwickeln dafür teilweise gemeinsam mit Öl- und Gaskonzernen spezialisierte Anwendungen. Laut einer aktuellen im Fachjournal „npj Climate Action“ veröffentlichten Studie könnten die durch KI-Technologie ermöglichten zusätzlichen Emissionen der fossilen Industrie den CO₂-Ausstoß der Rechenzentren um das 3,3- bis 13,3-Fache übersteigen. Im schlimmsten Fall entspräche dies den jährlichen Emissionen Russlands. Die Mitautorin Holly Alpine, ehemalige Microsoft-Managerin, betont, dass die Debatte über die Klimawirkung von KI-Technologien nicht nur die Betriebsemissionen, sondern auch die Anwendung in der fossilen Industrie berücksichtigen darf.
Hier geht’s zum Artikel!
|
KI-Technologien, wo das Leben arbeitet
The real AI economy is being built by ordinary people, Rest of World, 14.9.2026
In Asien und Afrika nutzen Menschen KI-Systeme bereits ganz praktisch in ihrem Arbeitsalltag. In Lagos nutzt die Visagistin Nureeyah Ogunmuyiwa ChatGPT beispielsweise für die Einstellung ihrer ersten Mitarbeiterin, die Erstellung von Social-Media-Inhalten und die Preiskalkulation. In Bengaluru nutzt Chinmayee Mishra das Tool, um Verkaufsdaten zu analysieren und die Rezeptkosten für ihr Café zu kalkulieren. Bei subjektiven Entscheidungen wie der Positionierung ihres Geschäfts verlässt sie sich dagegen auf ihr eigenes Urteil. In China produziert Regisseur Wendi Ma inzwischen komplette Kurzdramen mit KI-generierten Videos – mit zehn statt früher 50 Personen und für rund 20.000 statt 200.000 US-Dollar. In Mumbai erstellt die Tanzlehrerin Trishika Udyawar mit ChatGPT und Suno eigene Lieder für Kinder. In Taiwan hat der Personal Trainer Philip Yeh mithilfe von Claude eine App zur Dokumentation und Vorbereitung seiner Trainings entwickelt. Der Wissenschaftler Shoumo Mitra wiederum nutzt verschiedene KI-Tools, um Forschungsunterlagen auszuwerten und die Entwicklung und Erprobung neuer Pflanzenschutzmittel zu beschleunigen. Was diese Beispiele verbindet, ist weniger ein bestimmtes KI-Tool oder Sprachmodell, sondern vielmehr die Frage, in welchen Bereichen des Arbeitsalltags KI-Technologie tatsächlich nützlich ist und welche Aufgaben Menschen bewusst selbst übernehmen.
Hier geht's zum Artikel!
|
|
|
|
|
Mehr im Netz als Fisch
How AI – and Increased Collaboration – Can Improve International Fisheries Monitoring, Pew, 14.9.2026
Was auf Fischereischiffen weit draußen auf See passiert, ist nur schwer im Blick zu behalten. Deshalb setzen internationale Fischereiorganisationen zunehmend auf elektronisches Monitoring: Kameras und Sensoren zeichnen Aktivitäten an Bord auf, die bislang größtenteils von Menschen ausgewertet werden müssen. KI-Systeme könnten diese Arbeit erleichtern, indem sie große Mengen an Videomaterial analysieren und beispielsweise Fangaktivitäten erkennen. In Pilotprojekten wird bereits erprobt, wie KI die Auswertung elektronisch erfasster Daten unterstützen kann, etwa beim nahezu Echtzeit-Zählen von Fängen, bei der Identifizierung von Fischarten und bei der Erfassung von Arbeitsbedingungen an Bord. Allerdings hängt der Einsatz dieser Technologie von geeigneten Daten und gemeinsamen Standards ab. Bei zwei internationalen Treffen im Jahr 2023 und 2024 diskutierten mehr als 30 Expert:innen unter anderem darüber, wie KI-Systeme die Arbeit menschlicher Beobachter:innen ergänzen und neue Arbeitsmöglichkeiten schaffen können. Die Teilnehmenden identifizierten Hindernisse für den Einsatz von KI-Technologie in der Fischereiverwaltung und betonten die Notwendigkeit, Daten offener und zugänglicher zu machen, um KI-Modelle besser zu trainieren. Aus dem Austausch entstanden unter anderem ein gemeinsames Fachglossar und Empfehlungen dafür, wie elektronische Monitoring-Systeme für den Einsatz von KI weiterentwickelt werden können.
Hier geht’s zum Artikel!
|
|
|
|
|
|
Follow-Empfehlung
Leevi Saari ist Doktorand an der Universität von Amsterdam sowie EU Policy Fellow am „AI Now Institute“ und forscht zur politischen Ökonomie und Regulierung von KI.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
