Bertelsmann Stiftung (Hrsg.)

Prof. Dr. Katharina A. Zweig

Wo Maschinen irren können

Verantwortlichkeiten und Fehlerquellen in Prozessen algorithmischer Entscheidungsfindung

Ausgabeart
Broschur
Erscheinungstermin
05.02.2018
DOI
10.11586/2018006
Auflage
1. Auflage
Umfang/Format
40 Seiten, Broschur
Lieferstatus
Lieferbar

Preis

kostenlos

In 3-5 Tagen lieferbar

Beschreibung

Dieses Arbeitspapier erklärt, wie algorithmische Entscheidungssysteme entwickelt und in einen gesellschaftlichen Kontext eingebettet werden, und zeigt dabei potenziell auftauchende Fehlerquellen auf.

Nach einem einleitenden Teil, in dem die Begriffe Algorithmus und Entscheidungssystem näher definiert werden, beschreibt das Papier den Entwicklungs- und Einbettungsprozess von algorithmischen Entscheidungssystemen.

Der Prozess, den ein Entscheidungssystem von seiner Entwicklung bis zur Evaluation durchläuft, ist lang und an vielen Stellen von zahlreichen Entscheidungen abhängig. Dafür sind in den einzelnen Phasen unterschiedliche Personen verantwortlich: Wissenschaftler und Programmierer genauso wie Data Scientists und unterschiedliche Akteure (z. B. staatliche, wirtschaftliche, wissenschaftliche Institutionen oder Nichtregierungsorganisationen).

Die hohe Anzahl an Entscheidungen sowie unterschiedlicher Beteiligter macht den Prozess anfällig für Fehler, die in allen Phasen auftauchen können.

Zugehörige Projekte

Cover Ethik der Algorithmen

Im Projekt Ethik der Algorithmen setzen wir uns mit den gesellschaftlichen Folgen algorithmischer Entscheidungsfindung auseinander. Wir wollen zu einer Gestaltung algorithmischer Systeme beitragen, die zu mehr Teilhabe für alle führt. Nicht das technisch Mögliche, sondern das gesellschaftlich Sinnvolle muss Leitbild sein.

Ansprechpartner:innen Verlag