Nicht mal zwanzig Minuten sind vergangen, schon spricht Danah Boyd vom Krieg. Vom Kulturkrieg, um genau zu sein. Die amerikanische Medienwissenschaftlerin hat am heutigen Mittwoch mit ihrer Keynote die zwölfte re:publica in Berlin eröffnet. Dabei hat sie ein düsteres Bild der vernetzten Gesellschaft gezeichnet, in der Populismus immer prominenter wird – dank fleißiger Mithilfe von führenden Technikunternehmen und den Medien.

Das knallt zum Auftakt. Zumal die re:publica, die wohl wichtigste Digitalkonferenz Europas, auch ein Ort ist, an dem sich Medienschaffende, Start-up-Gründer, Datenschützer und grundsätzlich digital aktive Menschen gerne selbst feiern und reden hören. Doch die re:publica wird von Jahr zu Jahr politischer. Und damit kritischer der Technik gegenüber.

"Algorithmen unterstützen nicht zwangsweise eine Welt, in der wir gerne leben möchten", sagt Boyd und fasst damit einen der Schwerpunkte der diesjährigen Konferenz zusammen: In zahlreichen Vorträgen und Diskussionsrunden geht es um die Frage, wie Algorithmen, Big Data und zunehmend auch künstliche Intelligenz (KI) unser Zusammenleben bestimmen. Wer trägt die Verantwortung, wenn etwas schiefläuft? Und wie können wir es besser machen?

Wie Algorithmen missbraucht werden

Algorithmen und künstliche Intelligenz seien inzwischen die Antwort auf alles, beginnt Boyd ihren Vortrag. Über die moralischen Konsequenzen der Technik allerdings werde noch immer zu wenig nachgedacht: "Dabei sehen wir doch gerade, wie das System im großen Stil missbraucht wird."

Um das zu illustrieren, hat die Medienwissenschaftlerin mehrere Beispiele mitgebracht. Sie beschreibt in ihrem Vortrag, wie es Rechtspopulisten immer wieder gelingt, Diskurse im Internet zu bestimmen und einzelne Ausdrücke zu besetzen. Stichwort Fake-News. So führe der an sich neutrale Suchbegriff "black on white crime" in Suchmaschinen unweigerlich zu rechtsextremen Seiten, weil deren Betreiber geschickt die Suchalgorithmen manipulierten. "Rote Pillen" nennt Boyd diese Themen, in Anspielung auf den Film Matrix, die Menschen gezielt in eine eigene Welt locken sollen. Die Suchalgorithmen von Google, Facebook und anderen sozialen Netzwerken würden fleißig mithelfen.

Ebenso die Medien, die zunehmend anhand des "Buzz" im Internet ihre Berichterstattung ausrichteten. Nach dem Amoklauf von Sutherland Springs schrieb etwa das US-Portal Newsweek auf seiner Website: "Die Antifa steckt hinter den Morden von Sutherlands Springs, mutmaßen rechte Medien." Der Attentäter hatte zwar nichts mit der Antifa zu tun, doch eine krude Theorie hatte es in die Mainstream-Medien geschafft. Man sehe an solchen Beispielen, wie es Randgruppen gelinge, das "Wissen zu destabilisieren" und die "Aufmerksamkeitsökonomie zu hacken", sagt Boyd.

Und nicht zuletzt seien Algorithmen und KI nicht nur zu manipulieren, sondern sie könnten schlimmstenfalls von vornherein diskriminierend sein, weil die ihr zugrunde liegenden Datensätze oder ihre Entwickler nicht divers genug sind. Welche Auswirkungen das haben könnte, etwa für Flüchtlinge oder Gesellschaftsgruppen wie Straftäter, die von Software erfasst und kategorisiert werden, begännen wir nur langsam zu verstehen. "Wir erleben eine Machtverschiebung hin zu den Technologiefirmen", sagt Boyd am Ende ihres Vortrags. Und auch wenn es nicht ihre Absicht sei, so sei es die Anwendung der Technik, die derzeit für zahlreiche Probleme sorge.