Welche weiterführenden Schulen dürfen Kinder besuchen? Wo fährt die Polizei Streife? Wessen Steuererklärung wird von Menschen, welche ausschließlich von Software bearbeitet? Welche Passanten am Bahnhof gelten als verdächtig und welche Angeklagten vor Gericht als besonderes Risiko? Bei solchen Entscheidungen und Prognosen setzen Staat und Unternehmen weltweit auf algorithmische Systeme. Bei der Debatte über den Einsatz solcher Systeme und vermeintlich „künstlicher Intelligenz“ kommt es leicht zu gedanklichen Kurzschlüssen wie diesen: Die Algorithmen bestimmen über uns, Technik lässt sich nicht gesellschaftlich gestalten.
Solchem fatalistischen Technikdeterminismus setzen wir (Konrad Lischka und Julia Krüger) in unserem Arbeitspapier „Damit Maschinen den Menschen dienen“ dutzende Ideen aus Wissenschaft, Zivilgesellschaft, Wirtschaft und der Politik entgegen, die zeigen, was zu tun ist, um algorithmische Prozesse in den Dienst der Gesellschaft zu stellen. Es gibt viele, zum Teil sehr konkrete Konzepte. Unser Papier beantwortet diese Kernfragen: Welche Herausforderungen sind bei der gesellschaftlichen Gestaltung algorithmischer Systeme erkennbar? Und welche Optionen gibt es, um diesen Herausforderungen zu begegnen? Im Fokus stehen diese vier Handlungsfelder (siehe auch die grafische Übersicht unten).
- Zielsetzung algorithmischer Systeme auf gesellschaftliche Angemessenheit prüfen.
- Umsetzung dieser Ziele im Einsatz überprüfen.
- Vielfalt der Systeme, Ziele und Betreiber schaffen und sichern.
- Übergreifende Rahmenbedingungen für den teilhabeförderlichen Einsatz schaffen, wie zum Beispiel Kompetenz bei Betroffenen, Anwendern sowie staatliche Regulierungskompetenz.
Unser Dank gilt Dr. Ulf Buermeyer, Dr. Andreas Dewes, Prof. Dr.-Ing. Florian Gallwitz, Lorena Jaume-Palasí, Dr. Nicola Jentzsch und Philipp Otto für ihre kritischen Prüfungen und wertvollen Anregungen.
Wir veröffentlichen das Arbeitspapier unter einer freien Lizenz (CC BY-SA 3.0 DE), um einen Beitrag zu einem sich schnell entwickelnden Feld zu geben, auf dem auch andere aufbauen können. Über Erweiterungen, Verbesserungen, weiterführende Analysen und natürlich auch konstruktive Kritik freuen wir uns sehr.