|
„Erlesenes“ ist ein zweiwöchentlicher Newsletter von Digitalisierung und Gemeinwohl und bietet eine kuratierte Auswahl an wissenschaftlichen Studien, journalistischen Artikeln und Debattenbeiträgen sowie Fundstücken mit Augenzwinkern aus sozialen Medien zum Themenkomplex Algorithmen und KI. Mit „Erlesenes“ wollen wir den Diskurs rund um algorithmische Entscheidungssysteme und ihre Chancen sowie Risiken für das Gemeinwohl einordnen, wir möchten den Blick über den Tellerrand wagen und Perspektiven fernab des dominierenden Diskurses aufgreifen. So wollen wir die Abonnent:innen in dem sich rasch verändernden Themenfeld up-to-date halten. Jede Ausgabe finden Sie auch auf unserem Blog. Hier geht's zum Blog!
|
|
|
|
|
|
|
|
|
|
Liebe Leser:innen,
mit Kritik am vergangenen Digitalgipfel der Bundesregierung wurde in unseren Netzwerken nicht gespart. Die Tech-Ökonomin Aline Blankertz, bekannt durch ihre Arbeit bei der Stiftung Neue Verantwortung (heute Interface) und Wikimedia Deutschland, hat bereits im Vorfeld des Gipfels die beiden dominierenden Themen „Souveränität“ und „KI-Sicherheit“ kritisch beleuchtet. Ein Anlass für uns, aktuelle Studien und Perspektiven dazu aufzunehmen.
Über die Gefahren von Künstlicher Intelligenz (KI) für die Menschheit (dazu hier ein Blog-Post von uns aus 2024) soll also jetzt von externen Prüfer:innen mit exklusivem Zugang zu den Frontier Labs berichtet werden. Elham Tabassi argumentiert, dass allein dieser Zugang keine Glaubwürdigkeit der Prüfung herstellt. Sie fordert, dass Evaluierungen standardisiert und wiederholt durchgeführt werden, damit sie vergleichbar und interpretiert werden können. Dem ‚AI Doom‘-Narrativ tritt der Papst bei einem Besuch mit seiner Feststellung entgegen, dass die weitere Richtung der KI-Entwicklung von unseren, menschlichen Entscheidungen abhängt.
Dass zu KI-Souveränität mehr gehört, als Rechenzentren auf eigenem Grund und Boden zu bauen, mit Grafikchips eines US-amerikanischen Herstellers zu bestücken oder Tech-Firmen mit Steuererleichterungen zu locken, dämmert mittlerweile den meisten. In einem Essay schreibt Luã Cruz, wie eine indigene Gemeinschaft im Konflikt gegen ein TikTok-Rechenzentrum im brasilianischen Bundesstaat Ceará mit demokratischen Mitteln vorgegangen ist und sich so einen Teil ihrer Souveränität bewahrt hat.
Am Ende dieser Ausgabe bleibt KI das, was es schon immer war: Handarbeit. In einer neuen, interaktiven Karte macht Cunyan Ma die Verflechtungen von Datenannotationsfirmen und ihren Auftraggeber sichtbar und wirkt so gegen das kollektive Vergessen in der Debatte.
Viel Spaß beim Lesen wünschen
Elena und Asena
Ihnen wurde dieser Newsletter weitergeleitet? Hier geht es zum Abo: www.digitalisierung-und-gemeinwohl.de/newsletter/
Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns immer über Feedback – der Newsletter lebt auch von Ihrer Rückmeldung und Ihrem Input. Melden Sie sich per E-Mail an asena.soydas@bertelsmann-stiftung.de, jens.preussner@bertelsmann-stiftung.de oder per LinkedIn @Digitaliserung&Gemeinwohl.
|
|
|
|
|
Souveränität made in Silicon Valley
Make ‘AI’ ‘safe’ and ‘sovereign’?! Dispersing the smokescreens in tech policy, LinkedIn Artikel, Aline Blankertz, 1.11.2026
Derzeit prägen die beiden Schlagworte „souveräne KI” und „KI-Sicherheit” den Tech-Diskurs. Die Tech-Ökonomin Aline Blankertz hält beide Begriffe jedoch für Nebelkerzen, die politische Debatten eher verzerren als Klarheit verschaffen. „Souveräne KI” sei ein Widerspruch in sich. KI schaffe nämlich strukturelle Abhängigkeiten, schreibt Blankertz und verweist dabei auf die Forschung der Ökonomin Cecilia Rikap. Demnach hätten Google, Microsoft und Amazon die akademische Forschung und das Start-up-Ökosystem so stark durchdrungen, dass die kommerzielle Verwertbarkeit nun anstelle des gesellschaftlichen Nutzens im Zentrum stehe. Zudem: Wer Rechenzentren auf europäischem Boden baut, reduziert die Abhängigkeit von US-Firmen nicht, solange US-amerikanische Cloud- und KI-Anbieter beteiligt sind. Der eigentliche Gewinner der Souveränitäts-Rhetorik sei Jensen Huang, der Chef von Nvidia, dessen Chips überall nachgefragt würden. Auch der Begriff „KI-Sicherheit” lenke durch die Ausrichtung auf existenzielle Risiken in der Zukunft von den tatsächlichen Schäden im Heute ab: Energieverbrauch, Rohstoffabbau und wachsende Ungleichheit. Stattdessen wird die Debatte auf eine hypothetische Superintelligenz verlagert, deren Regulierung von den Tech-Milliardären selbst vorgeschlagen wird. Blankertz kritisiert unter anderem, dass sich Politiker:innen wie Bernie Sanders dieser Agenda angenähert hätten. Wer Superintelligenz regulieren wolle, akzeptiere stillschweigend, dass KI unvermeidlich sei. Ihre Alternative sind digitale Technologien, die verbinden statt entfremden, sowie die Abschaffung der KI-Industrie in ihrer heutigen Form.
Hier geht’s zum Artikel!
|
Was taugt die Evaluierung von KI-Riesen wirklich?
In AI evaluation, access is not evidence, Brookings, 24.9.2026
Wie lässt sich überprüfen, ob ein KI-System tatsächlich sicher und zuverlässig ist? Zwei große KI-Unternehmen haben nun zugesagt, externen Gutachter:innen künftig Zugang zu ihren Systemen zu gewähren. Dario Amodei, Chef von Anthropic, versprach unabhängigen Prüfer:innen einen dauerhaften Zugang und das Recht, ihre Ergebnisse frei zu veröffentlichen. OpenAI zog nach. Doch allein der Zugang macht eine Bewertung noch nicht glaubwürdig, warnt Elham Tabassi, ehemalige leitende Wissenschaftlerin am US-amerikanischen Institut für Standards und Technologie (NIST). Die eigentliche Arbeit beginne danach. Tabassi bezeichnet das Problem als „Messlücke“. Es gibt viele Tests, doch ihre Ergebnisse lassen sich kaum vergleichen oder zusammenführen. Ein Beispiel: Apollo Research riet 2025 von einem frühen Claude-Modell ab, weil es während Tests wiederholt nur vermeintlich sichere Antworten generierte. Anthropic korrigierte die Ursache und veröffentlichte alle Details. Da die Tests am finalen Modell jedoch nicht wiederholt wurden, konnte niemand beurteilen, wie groß der Effekt der Korrektur tatsächlich war. Tabassi schlägt vier Schritte vor: Modellversionen und Verantwortlichkeiten offenlegen, Bewertungen durch verschiedene Prüfteams vergleichen, eine gemeinsame, unabhängig kontrollierte Testinfrastruktur aufbauen sowie Sicherheitsbewertungen mit späteren Erfahrungen im Einsatz abgleichen. Eingebettete Evaluator:innen sind laut Tabassi ein Anfang, aber die Messlücke zieht sich durch das ganze Feld. Das Ziel sei nicht mehr Bewertung, sondern Belege, die sich interpretieren und vergleichen und vertrauenswürdig sind.
Hier geht‘s zum Artikel!
|
|
|
|
|
„Widerstand ist keine Wahl, sondern Überleben“
Digital Democracy from Below: Resisting AI and Techno-solutionism, Zenodo, 22.10.2026
Demokratie findet nicht mehr nur in Parlamenten statt. In der Essay-Sammlung „Digital Democracy from Below“ („Digitale Demokratie von unten“) führen die Autor:innen aus, dass demokratische Hebel oft an ungewöhnlichen Orten zu finden sind, beispielsweise in Beschaffungsverfahren oder sogar Steuerabkommen. Demokratie sei demnach nicht allein eine Regierungsform, sondern eine Lebensweise und eine erlernbare Praxis. Ein Beispiel ist der Beitrag von Luã Cruz über den Konflikt um ein TikTok-Rechenzentrum im brasilianischen Bundesstaat Ceará. Die brasilianische Regierung lockt Tech-Konzerne mit dem milliardenschweren Steuerbefreiungsprogramm Redata an. TikTok will dort rund zehn Milliarden Dollar investieren. Cruz kritisiert das Programm als intransparent: Es fehle an Messkriterien für die versprochenen wirtschaftlichen Vorteile, an Kontrollpflichten für den Energie- und Wasserverbrauch und an Mechanismen, mit denen betroffene Gemeinschaften einbezogen werden könnten. Betroffen ist vor allem die indigene Gemeinschaft der Anacé, deren Gebiet an den geplanten Standort grenzt. TikTok hat sie nicht konsultiert, die Gemeinschaft hat davon aus der Presse erfahren. Die Anacé reagierten mit einem bewährten Instrument: den traditionellen Protokollen für freie, vorherige und informierte Zustimmung, die früher auch gegen Bergbau und Staudämme eingesetzt wurden. Die Anacé lehnen Technologie nicht ab, sondern bestehen darauf, dass Infrastrukturprojekte nur mit ihrer Zustimmung und nach ihren eigenen Entscheidungsprozessen umgesetzt werden. Cruz betont, dass die Zivilgesellschaft sie dabei begleiten muss, statt für sie zu sprechen.
Hier geht’s zum Artikel!
|
KI braucht Grenzen. Amen.
Report from the Vatican, Marcus on AI, 31.10.2026
Gary Marcus, Kognitionsforscher und ein scharfer Kritiker der KI-Branche, traf Papst Leo XIV im Vatikan und kam beeindruckt zurück. In seinem Bericht bezeichnet er den Papst als den klarsten Denker zu KI und sagt, er sei ein großer Bewunderer von dessen Enzyklika Magnifica Humanitas. In seiner Rede betonte der Papst, dass die Zukunft der KI nicht vorbestimmt sei, sondern von den Entscheidungen abhänge, die Menschen jetzt treffen. Entscheidend sei nicht die Frage, was KI könne, sondern welchem Zweck sie dienen solle. Maschinen seien reine Werkzeuge, sie machten keine Erfahrungen, fühlten weder Freude noch Schmerz. Wer solchen Systemen Rechte oder gar einen Rechtsstatus zugestehe, verschleiere nur die Verantwortung der Menschen, die sie gebaut haben. Entscheidungen über Leben, Freiheit und Gewalt müssten deshalb immer in menschlicher Hand bleiben. Er rief die in Genf versammelten Staaten deshalb zum Verbot autonomer tödlicher Waffen auf. Die dringendste Aufgabe sei jedoch eine andere. Es fehle nicht an ethischen Prinzipien, sondern an internationalen Institutionen, die sie tatsächlich durchsetzen. Marcus ergänzt, der fundamentale Fehler der Branche sei, eine Vorhersage des nächsten Wortes für Intelligenz zu halten. Sprachmodelle folgen Korrelationen statt Kausalität und seien schlecht im Folgen von Anweisungen, weshalb sie weiterhin erfundene Quellenangaben erzeugen. Offene KI-Agenten mit unbegrenztem Internetzugang seien unsicher und vom Markt zu nehmen, bis sie „repariert” seien.
Hier geht's zum Artikel!
|
|
|
|
|
KI ist Handarbeit
Brown student maps the hidden global labor powering AI, Brown, 26.10.2026
Dass hinter KI-Systemen steckt unsichtbare Arbeit steckt, darüber hat Erlesenes schon oft berichtet (z. B. hier). Cunyan Ma, Studentin an der Brown University (Rhode Island), hat nun eine interaktive Karte erstellt, die diese Arbeit sichtbar machen soll. Sie verknüpft 13 Datenannotationsfirmen mit 141 Auftraggebern und 31 Ländern, in denen die Beschäftigten tätig sind. Die Karte ist frei zugänglich und bündelt bestehende Datenbanken, eigene Erhebungen und journalistische Berichte. Damit will sie die Idee des KI-Kolonialismus anschaulich machen. KI-Modelle müssen nämlich von Menschen trainiert, die Fotos beschriftet, Chatbot-Antworten bewertet oder Tumor-Ränder in Aufnahmen markiert werden. Unternehmen lagern diese Arbeit an spezialisierte Firmen aus, die wiederum billige Arbeitskräfte im Globalen Süden suchen, etwa in Kenia, Indonesien oder Kolumbien. Manche müssen dort Gewaltdarstellungen sichten und kennzeichnen, damit Systeme sie später automatisiert erkennen können. Schwere Arbeit, schlechte Bezahlung, Profit im Westen. Laut Ma sind diese Ketten absichtlich intransparent, um Verantwortung zu vermeiden. Ihr Betreuer Suresh Venkatasubramanian ergänzt: „KI wird überall von Menschen gemacht.” Wer das ignoriere, rede von der Technologie, als sei sie ein eigenständiges Wesen. Die Karte könnte den Beschäftigten zudem dabei helfen, einander zu finden, um sich beispielsweise gewerkschaftlich zu organisieren.
Hier geht’s zum Artikel!
|
|
|
|
|
|
Follow-Empfehlung
Lucia Velasco ist Ökonomin und Doktorandin an der Universität Maastricht. Sie forscht zum Verhältnis von Technologie, Wirtschaft und gesellschaftlichen Machtstrukturen und berät unter anderem die Vereinten Nationen zur globalen KI-Governance.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
