Klicken Sie hier, wenn dieser Newsletter nicht richtig angezeigt wird

 
 
 
 

Erlesenes #51

5 Denkanstöße rund um Algorithmenethik

 

10.01.2019

Willkommen zur 51. Ausgabe der wöchentlichen Algorithmenethik-Lektüreempfehlungen "Erlesenes".

Während die wackeren Digital-Nomad:innen gerade ihre Passwörter und Social-Media-Accounts hackerfest machen, haben wir für Sie vielfältige Artikel rund um das Thema Algorithmenethik kuratiert. In der ersten Erlesenes-Ausgabe 2019 erwarten Sie u. a. folgende Fragen: Können Algorithmen helfen, Alzheimer früher zu diagnostizieren? Wie macht die finnische Regierung ihre Bevölkerung KI-fit? Können Algorithmen uns zu glücklicheren Arbeitnehmer:innen machen? 

Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns stets sehr über Vorschläge für Erlesenes von unseren Leserinnen und Lesern. Wer einen spannenden Text gefunden hat, kann uns diesen gerne per E-Mail an carla.hustedt@bertelsmann-stiftung.de zukommen lassen. 

Künstliche Intelligenz entdeckt Alzheimer sechs Jahre vor der Diagnose
(Artificial Intelligence Can Detect Alzheimer’s Disease in Brain Scans Six Years Before a Diagnosis), 2. Januar 2019, University of California San Francisco
Künstliche Intelligenz (KI) ist in der Lage, bei Menschen durchschnittlich rund sechs Jahre vor der tatsächlichen Diagnose eine Alzheimer-Erkrankung zu erkennen. Das zeigte ein Team von Forscher:innen des Fachbereichs Radiologie der University of California San Francisco mit einem Experiment, über das die Wissenschaftlerin und freie Autorin Dana Smith berichtet. Die Forscher:innen trainierten die KI anhand eines öffentlichen Datensets mit Informationen aus 1921 Gehirnscans, um subtile und langsame, mit Alzheimer in Verbindung stehende Veränderungen des Glukoseniveaus zu entdecken. Derartige Musterveränderungen entgehen menschlichem Fachpersonal leicht, gehören allerdings zu den Paradedisziplinen von KI. Im anschließenden Testeinsatz identifizierte der Algorithmus in über 90 Prozent der Fälle sich abzeichnende Alzheimer-Erkrankungen akkurat. Bevor die KI im klinischen Alltag eingesetzt werden kann, seien jedoch noch weitere und umfangreichere Tests erforderlich.

Wie Finnland seine Bevölkerung für KI fit macht
(Finland’s grand AI experiment), 2. Januar 2019, Politico
In Finnland wird momentan rund ein Prozent der Bevölkerung, etwa 55.000 Personen, in die Grundkonzepte Künstlicher Intelligenz (KI) eingeführt. Im Laufe der nächsten Jahre soll sich die Zahl weiter erhöhen. Ziel ist es, das kleine nordische Land weltweit führend in der praktischen, breiten Anwendung von KI zu machen und so eine lukrative und zukunftsorientierte Nische zu schaffen. Janosch Delcker, KI-Reporter bei Politico, stellt die Initiative vor, die nicht etwa staatlich konzipiert wurde, sondern ihre Anfänge in einem KI-Kurs der Universität Helsinki sowie einem daraufhin mit der Kreativ- und Strategieagentur Reaktor entwickelten Onlinekurs hat. Um Aufmerksamkeit für den Kurs zu generieren, überzeugten die Initiatoren hunderte führende Unternehmen, ihren Mitarbeiter:innen die Weiterbildung zugänglich zu machen. Nachdem der Stein ins Rollen gekommen war, wurde die finnische Regierung auf die Aktion aufmerksam – und schloss sich an.

Unpassende Onlinewerbung: Dumme Maschinen sollten uns recht sein
12. Dezember 2018, Spiegel Online
Warum wird man durch Werbung zum Waschmaschinenkauf angeregt, nachdem man bereits online eine gekauft hat? Warum folgt auf ein verschwörungstheoretisches Video eine Reihe von ähnlich dubiosen Empfehlungen? Und warum bekommt eine Nutzerin bei Facebook Anzeigen für Schwangere angezeigt, obwohl sie zuvor in einem Update sehr deutlich die Trauer über eine Fehlgeburt zum Ausdruck gebracht hatte? Letzteres Beispiel, jüngst öffentlich angeprangert von der US-Journalistin Gillian Brockell, nimmt Spiegel-Online-Redakteur Patrick Beuth als Aufhänger für einen Kommentar über die Dummheit der Algorithmen. Diese basieren auf fehlerhaften, eindimensionalen Prinzipien wie “Mehr vom Selben” oder der Annahme eines “linear immer guten” Lebens. Was Anwender:innen mitunter nervt oder sie, wie im Beispiel von Gillian Brockell, gar mit einem enormen Schmerz konfrontiert, habe aber eine gute Seite, so Beuth: Die letzte Distanz zwischen Netzwerk und Nutzer:in sei wünschenswerter als Maschinen, die Menschen jederzeit richtig einschätzen und diese somit zum perfekten Kontrollinstrument würden.

Algorithmen stellen den liberalen Sozialstaat vor eine Herausforderung
(The Welfare State Is Committing Suicide by Artificial Intelligence), 25. Dezember 2018, Foreign Policy 
Der Einsatz Künstlicher Intelligenz (KI) stellt eine Bedrohung für liberale Demokratien und den Sozialstaat dar. Das konstatieren die Menschenrechtsaktivisten Jacob Mchangama und Hin-Yan Liu, Professor der Universität Kopenhagen, am Beispiel Dänemarks. Das Land sei ein weltweites Vorbild der liberalen, um das Wohl seiner Bürger:innen bemühten Demokratie. Damit einhergeht aber das immanente stetige Streben eines solchen Systems nach Effizienz, Konsistenz und Genauigkeit in Entscheidungen. Gepaart mit der Verlockung, dafür stark auf KI zu setzen, verlagere sich die Macht unweigerlich weg von Politik und Rechtssystem hin zu technokratischen Behörden und intransparentem Code. Eine derartige “Algocracy” führe zu Einschränkungen für Privatsphäre, Familienleben und die freie Meinungsäußerung. Die Autoren nennen als Beispiel KI, die das Risiko von Kindesmissbrauch vorherzusagen versucht – was im Falle einer falschen Prognose bedeuten könnte, dass Eltern zu Unrecht ihr Kind weggenommen würde. Der Konflikt könne nur durch eine konsequente Regulierung des Einsatzes von Algorithmen sowie durch einen Kompromiss gelöst werden, der davon absieht, algorithmische Effizienz als einzige Zielstellung zu verfolgen. 

Ein Algorithmus, der Angestellte zufriedener machen soll
(Firm Led by Google Veterans Uses A.I. to ‘Nudge’ Workers Toward Happiness), 31. Dezember 2018, New York Times
Können Algorithmen Angestellte glücklicher machen? Das kalifornische Start-up Humu glaubt fest daran. Daisuke Wakabayashi, Journalistin bei der New York Times, porträtiert das Unternehmen, das anderen Firmen KI-basierte Technologie genau dafür bereitstellt. Mithilfe von personalisierten, zeitlich und inhaltlich optimierten Kurznachrichten soll die Zufriedenheit der Angestellten erhöht werden. Der Algorithmus basiert auf der verhaltensökonomischen Theorie des “Nudging” sowie auf darauf zurückführbaren Konzepten, die das Gründertrio selbst über Jahre bei seinem ehemaligen Arbeitgeber Google im Einsatz erlebt hat. Wakabayashi erläutert, dass die KI auf teils sensible Daten der Belegschaft zugreift, diese jedoch auf Anfrage gelöscht werden können. Fraglich bleibe, ob Angestellte Nudges als hilfreich oder manipulativ empfinden. Zudem bestehe die Gefahr, dass Firmen die Technologie dafür verwenden, die Belegschaft auf eine Art zu “nudgen”, die nicht im Interesse der Mitarbeiter:innen liegt.

Das war‘s für diese Woche. 

Sie können die Algorithmenethik Lektüreempfehlungen „Erlesenes“ hier abonnieren

Mehr zum Thema Algorithmenethik finden Sie auch in unserem Blog: https://algorithmenethik.de/

 

Sie wollen diesen Newsletter nicht mehr erhalten? Dann klicken Sie bitte hier.

 

Sie wollen Ihr Newsletter-Profil bearbeiten oder weitere Newsletter der Bertelsmann Stiftung abonnieren? Dann klicken Sie bitte hier.

 

Wir freuen uns über Ihre Fragen, Anregungen und Tipps:

 

Martin Weigert

Autor

 

Lajla Fetic

Redaktion

 

Bertelsmann Stiftung

Carl-Bertelsmann-Str. 256

33311 Gütersloh

Tel: +49 5241-8181216

Fax: +49 5241-81681216

E-Mail: lajla.fetic@bertelsmann-stiftung.de

 

Die Bertelsmann Stiftung ist eine gemeinnützige Stiftung des privaten Rechtes im Sinne von

Abschnitt 1 des Stiftungsgesetzes für das Land Nordrhein-Westfalen mit Sitz in Gütersloh.

Zuständige Aufsichtsbehörde ist die Bezirksregierung Detmold.

Stifter: Reinhard Mohn

Vorsitzender des Kuratoriums: Prof. Dr. Werner J. Bauer

Vorstand: Aart De Geus (Vors.), Liz Mohn (stv. Vors.), Dr. Jörg Dräger, Dr. Brigitte Mohn