Bertelsmann Stiftung (ed.)

Prof. Dr. Katharina A. Zweig

Wo Maschinen irren können

Verantwortlichkeiten und Fehlerquellen in Prozessen algorithmischer Entscheidungsfindung

Format Type
Brochure
Date of publication
05/02/2018
DOI
10.11586/2018006
Edition
1. edition
Volume/Format
40 pages, Brochure
Delivery status
Available

Price

Free of charge

shipment within 3-5 days

Description

Dieses Arbeitspapier erklärt, wie algorithmische Entscheidungssysteme entwickelt und in einen gesellschaftlichen Kontext eingebettet werden, und zeigt dabei potenziell auftauchende Fehlerquellen auf.

Nach einem einleitenden Teil, in dem die Begriffe Algorithmus und Entscheidungssystem näher definiert werden, beschreibt das Papier den Entwicklungs- und Einbettungsprozess von algorithmischen Entscheidungssystemen.

Der Prozess, den ein Entscheidungssystem von seiner Entwicklung bis zur Evaluation durchläuft, ist lang und an vielen Stellen von zahlreichen Entscheidungen abhängig. Dafür sind in den einzelnen Phasen unterschiedliche Personen verantwortlich: Wissenschaftler und Programmierer genauso wie Data Scientists und unterschiedliche Akteure (z. B. staatliche, wirtschaftliche, wissenschaftliche Institutionen oder Nichtregierungsorganisationen).

Die hohe Anzahl an Entscheidungen sowie unterschiedlicher Beteiligter macht den Prozess anfällig für Fehler, die in allen Phasen auftauchen können.

Related projects

Cover Ethik der Algorithmen

Von 2017 bis 2022 hat sich das Projekt „Ethik der Algorithmen“ mit den gesellschaftlichen Folgen automatisierter Entscheidungsfindung auseinandergesetzt. Ziel des Projekts war es, den digitalen Wandel stärker in den Dienst der Gesellschaft zu stellen. Das gesellschaftlich Sinnvolle und nicht nur das technisch Mögliche soll dafür Leitbild sein.