Publikationen

Algorithmen bewerten Menschen und entscheiden über sie – etwa in Bewerbungsverfahren oder bei der Kreditvergabe. Bislang läuft dies noch fast unkontrolliert ab, was zu falschen Bewertungen oder gar Diskriminierungen führen kann.

Dieses Arbeitspapier erklärt, wie algorithmische Entscheidungssysteme entwickelt und in einen gesellschaftlichen Kontext eingebettet werden, und zeigt dabei potenziell auftauchende Fehlerquellen auf.

Die Digitalisierung gilt als die umfassendste Veränderung, die unsere Gesellschaft derzeit erlebt. In welche Richtung sich dieser digitale Wandel bewegt, wird bislang vor allem von der Wirtschaft bestimmt.

Die Digitalisierung verändert, wie wir kommunizieren, arbeiten, einkaufen – kurzum: wie wir leben. Schon lange sind Zeitungen und Politikerreden gespickt mit Begriffen wie „Industrie 4.0“, „Big Data“ oder „Digitale Agenda“.

Von algorithmischen Prozessen gesteuerte Intermediäre wie Google oder Facebook haben im Vergleich zu redaktionell gesteuerten Medien wie dem Fernsehen einen großen, aber bislang nicht entscheidenden Einfluss auf die öffentliche Meinungsbildung.

Algorithmische Prozesse beobachten und bewerten in vielen Lebensbereichen Menschen und ihr Verhalten: In Autos die Fahrweise für Versicherungen, in Wohnvierteln die Einbruchshäufigkeit für die Einsatzplanung der Polizei.

Kriminalitätsprognosen, Kreditvergabe, Bewerberauswahl: Algorithmische Systeme beeinflussen heute auf unterschiedlichen Gebieten die Leben vieler Menschen. Und sie können großen Einfluss auf deren Teilhabechancen haben.