„Erlesenes“ ist ein zweiwöchentlicher Newsletter von reframe[Tech] - Algorithmen fürs Gemeinwohl und bietet eine kuratierte Auswahl an wissenschaftlichen Studien, journalistischen Artikeln und Debattenbeiträgen sowie Fundstücken mit Augenzwinkern aus sozialen Medien zum Themenkomplex Algorithmen und KI. Mit „Erlesenes“ wollen wir den Diskurs rund um algorithmische Entscheidungssysteme und ihre Chancen sowie Risiken für das Gemeinwohl einordnen, wir möchten den Blick über den Tellerrand wagen und Perspektiven fernab des dominierenden Diskurses aufgreifen. So wollen wir die Abonnent:innen in dem sich rasch verändernden Themenfeld up-to-date halten. Jede Ausgabe finden Sie auch auf unserem Blog. Hier geht's zum Blog!

 

 

Liebe Leser:innen,

wir starten mit einem Rätsel ins neue Jahr: Was haben Klöppeln, Raffaels Madonna della Rosa und die Berliner Mauer gemeinsam? Künstliche Intelligenz (KI)! Denn auch in der Kunst finden Methoden der KI immer mehr Anwendung. Während das Klöppeln durch KI-generierten Unsinn bedroht wird, helfen KI-Algorithmen bei der Identifikation von künstlerischer Urheberschaft und der Analyse von Farbzusammensetzungen in Werken wie Raffaels Madonna – oder auch in Graffiti auf der Berliner Mauer.

Doch auch aktuelle Entwicklungen wollen wir in dieser Ausgabe von Erlesenes nicht unerwähnt lassen: Mark Zuckerberg verkündete jüngst – ausgerechnet zu Trumps Amtseinführung – die drastische Reduzierung der Inhaltsmoderation auf Metas Plattformen wie Facebook und Instagram. Ein Schelm, wer Böses dabei denkt … Außerdem: Datenmonopole – wenn KI-Systeme nur aus einer einzigen Quelle schöpfen.

Wir wünschen allen Leser:innen ein frohes neues Jahr und freuen uns darauf, Ihnen auch in diesem Jahr weiterhin alle zwei Wochen einen Überblick im KI-Dschungel zu bieten.

Viel Spaß beim Lesen wünschen  

Elena und Teresa 

Ihnen wurde dieser Newsletter weitergeleitet? Hier geht es zum Abo: www.reframetech.de/newsletter/

Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns immer über Feedback – der Newsletter lebt auch von Ihrer Rückmeldung und Ihrem Input. Melden Sie sich per E-Mail an teresa.staiger@bertelsmann-stiftung.de oder bei LinkedIn unter @reframe[Tech] – Algorithmen fürs Gemeinwohl.

Datenmonopol: Wenn KI nur aus einer Quelle schöpft

This is where the data to build AI comes from, MIT Technology Review, 18.12.2024
Wenn Sie ein YouTube-Video hochladen oder einen Text im Internet veröffentlichen, landen Ihre Daten vielleicht in einem KI-System – wer entscheidet aber eigentlich, welche Daten verwendet werden? Forscher:innen der Data Provenance Initiative haben fast 4.000 öffentliche Datensätze unter die Lupe genommen und einen klaren Trend erkannt: Während KI-Daten früher aus unterschiedlichsten Quellen wie Parlamentsprotokollen oder Wetterberichten stammten, dominiert heute YouTube – über 70 Prozent der Daten stammen von Alphabet, die Muttergesellschaft von Google, zu der auch YouTube gehört. Damit sitzt Google auf einem riesigen Datenschatz. Gleichzeitig schließen große Techunternehmen Exklusivverträge mit Verlagen und Plattformen wie Reddit. Die Studie zeigt auch ein weiteres Problem auf: die digitale Kluft zwischen globalem Norden und Süden. Mehr als 90 Prozent der analysierten Datensätze stammen aus Europa und Nordamerika, weniger als vier Prozent aus Afrika. Das hat Folgen: Es verstärkt etwa Vorurteile und könnte zu einer US-zentrierten Weltanschauung führen, wodurch andere Sprachen und Kulturen verdrängt werden. Sarah Myers West vom „AI Now Institute“ warnt: „Die Datensätze spiegeln die Interessen großer, profitorientierter Unternehmen wider – und verändern damit die digitale Infrastruktur unserer Welt.“
Hier geht’s zum Artikel!

Stich für Stich in die Irre geführt

AI-Generated Book Grifters Threaten The Future of Lace-Making, 404 media, 26.12.2024
Über KI-generierte Bücher haben wir bereits berichtet. Nun ist auch die Welt des traditionellen Kunsthandwerks davon betroffen. Mary Mangan, Bibliothekarin in Neuengland, stolperte darüber, als sie nach einem Buch suchte. Was sie fand, war verblüffend: Dutzende von KI-generierten Büchern, die vorgaben, die komplexe Kunst des Klöppelns, also der Fertigung von Spitze, zu lehren. Die Betrüger:innen zielen besonders auf Anfänger:innen ab, die echte von gefälschten Anleitungen noch nicht unterscheiden können. Die Fälschungen sind an unscharfen Fotos, merkwürdiger Zeichensetzung und oft sogar an Verweisen auf nicht existierende Video-Tutorials zu erkennen. Das Problem geht über das Klöppeln hinaus. Auch Pilzsammler:innen haben mit ähnlichen KI-Fälschungen zu kämpfen – hier können falsche Tipps sogar lebensgefährlich sein (Erlesenes berichtete). Amazon hat nach Beschwerden bereits einige gefälschte Bücher entfernt, aber das Problem bleibt: Während die Technologie immer zugänglicher wird, fehlen wirksame Kontrollen gegen Missbrauch. Die Klöppel-Community reagiert mit Aufklärung und verstärktem Austausch. „Vielleicht“, hofft Mangan, „bringt uns die KI-Fälschungen sogar näher zusammen.“
Hier geht‘s zum Artikel!

 

Wer malte wirklich den Heiligen Josef bei Raffael?

AI identifies surprising details about one of the most famous paintings in the world, Earth.com, 6. 1.2025
Haben Sie sich beim Betrachten eines Kunstwerks im Museum auch schon einmal gefragt: Was verbirgt sich dahinter? Bei Raffaels berühmtem Gemälde „Madonna della Rosa“ wurde jetzt mithilfe von KI eine überraschende Entdeckung gemacht. Ein Forscher:innenteam der Bradford Universität hat einen KI-Algorithmus darauf trainiert, Raffaels charakteristischen Malstil zu erkennen. Die Entdeckung: Während die Madonna, das Jesuskind und der Heilige Johannes eindeutig von Raffael stammen, wurde das Gesicht des Heiligen Josef wahrscheinlich von einer anderen Hand gemalt – vermutlich von seinem Schüler Giulio Romano. Die eingesetzte Technologie analysiert Pinselstrich und Farbgebung bis ins kleinste Detail und erreicht bei der Identifizierung von Raffaels Werken eine Genauigkeit von 98 Prozent. „Der Computer sieht viel tiefer als das menschliche Auge, bis auf die mikroskopische Ebene“, erklärt Projektleiter Hassan Ugail. Für die Kunstgeschichte ist der Fund besonders spannend, weil er Licht auf die Arbeitspraxis in den Werkstätten der Renaissance wirft. Dass neue Technologien helfen können, die Vergangenheit besser zu verstehen, zeigt auch dieser Artikel: Wissenschaftler:innen nutzen KI bei der Identifizierung der Farbzusammensetzung von Gemälden auf der Berliner Mauer.
Hier geht's zum Artikel!

Meta lockert Inhaltmoderation: Freibrief für Hassrede?

Meta goes MAGA, Netzpolitik.org, 8.1.2025
Es war, als würde ein kollektives Raunen die Runde machen, als Meta-Chef Mark Zuckerberg ankündigte, die Inhaltsmoderation auf Facebook, Instagram und Threads drastisch einzuschränken. Der Zeitpunkt ist allerdings kein Zufall. Die Änderungen sollen am 20. Januar in Kraft treten – genau dann, wenn Donald Trump sein Amt als US-Präsident antritt. Faktenchecks durch unabhängige Prüfer:innen werden eingestellt, viele Regeln gegen Hassrede abgeschafft. Meta folgt damit dem Beispiel von Elon Musks X (ehemals Twitter), wo eine ähnliche Politik bereits zu einer Zunahme von Hassrede geführt hat. Für Europa könnte diese Entwicklung weitreichende Folgen haben. Zwar gilt hier der Digital Services Act (DSA), der Plattformen verpflichtet, aktiv gegen Falschmeldungen vorzugehen. Doch Zuckerberg hat bereits angekündigt, gemeinsam mit der neuen US-Regierung gegen so eine „Zensur“ vorzugehen. Wie gefährlich eine nachlässige Moderation sein kann, zeigt ein Blick in die Vergangenheit: 2018 stellte ein UN-Bericht fest, dass die damaligen Facebook-Moderationspraktiken zum Völkermord in Myanmar beigetragen habe. Wichtig wird es jetzt sein, dass die EU jetzt Stärke zeigt und ihre demokratischen Prinzipien verteidigt.
Hier geht’s zum Artikel!

 
Bunte Spielfiguren zu sehen

Follow-Empfehlung

The Human AI Institute

The Human AI Institute teilt Wissen, Erkenntnisse, Ideen und Herausforderungen im Bereich der menschenzentrierten KI

Verlesenes

Was von KI im Jahr 2025 nicht zu erwarten ist

Roboter, der mit der rechten Hand sehr nachdenklich den Kopf berührt