"Wir wandeln uns von einer Solidargemeinschaft zu einer Risikoabschätzungsgesellschaft"

Chancen und Risiken – künstliche Intelligenz in der Anwendung

Die Digitalisierung hat längst alle Lebens- und Arbeitsbereiche durchdrungen. Welche Rolle spielt künstliche Intelligenz in Ihrem Alltag?

Christoph Schank: Ohne mein Navigationsprogramm, das Daten für mich verarbeitet und mir konkrete Handlungsanweisungen gibt, hätte ich vielleicht gar nicht rechtzeitig diesen Treffpunkt gefunden. Es ist uns im Alltag oft gar nicht bewusst, wo wir überall mit Algorithmen und darauf basierenden Programmen zu tun haben.

Bodo Rosenhahn: Wobei man Navigations-Algorithmen als reine Rechenverfahren von KI-Anwendungen unterscheiden muss. Diese nutzen weitere Informationen, etwa Handydaten von Autofahrern, um die Verkehrsdichten zu schätzen und gegebenenfalls Umleitungsempfehlungen zu geben. Mir ist es allerdings sehr wichtig, Lebens- und Arbeitsbereich voneinander zu trennen. Zuhause bin ich ziemlich digitalfrei, habe keine Alexa, nutze kein WhatsApp. Man kann auch ohne diese Medien und KI-Dienste gut und sozial leben.

Viele Menschen nutzen privat digitale Dienste auf Basis von KI für mehr Bequemlichkeit. Wo sehen Sie die Probleme?

Christoph Schank: Die Grenze zwischen privater und beruflicher Sphäre verschwimmt zunehmend. Wir liegen in einem Trend der Quantifizierung und Datafizierung (viele Aspekte des Lebens werden in computerisierte Daten verwandelt; Anm. d. Red.) unserer Lebensbereiche. Alles muss gewogen, gemessen und gezählt werden. Salopp gesagt spürte früher unser Körper, ob ein Jogginglauf gut und ausreichend war. Heute sagt uns das ein kleiner Computer.

Bodo Rosenhahn: Schwierig wird es vor allem, wenn von solchen Scoring-Werten Versicherungs-Policen und Beiträge zu Krankenversicherungen abhängen. Bonusprogramme belohnen zwar gesundes Verhalten, aber de facto begeben wir uns freiwillig in die digitale Erfassung vieler Tätigkeiten.

Christoph Schank: Um das einmal deutlich zu machen: Das ist keine Zukunftsmusik! Wir haben uns längst an Einrichtungen wie die Schufa gewöhnt. Bei privaten Unternehmen zur Prüfung der Kreditwürdigkeit unterliegen deren Algorithmen dem Geschäftsgeheimnis. Keiner kann erklären, warum ein Rating unterdurchschnittlich ausfällt, wenn es um die Vergabe eines Kredits oder einer Mietwohnung geht. Vielleicht wohnt die Person nur in einem ethnisch heterogenen Stadtviertel.

Sind solche Einschränkungen des persönlichen Handlungsspielraums durch KI längst konsensfähig?

Bodo Rosenhahn: Ich beobachte, dass wir uns derzeit von einer Solidargemeinschaft zu einer Risikoabschätzungsgesellschaft wandeln. Interessanterweise wird das von vielen Leuten akzeptiert. Da sehe ich aber noch viel Diskussionsbedarf, sei es in der Politik, in den Rechtswissenschaften und auch in Forschung und Lehre. Nur durch Aus- und Weiterbildung kann man dem Thema KI angemessen begegnen.

Vor allem im beruflichen Umfeld wirft die neue Technik arbeitsrechtliche Fragen auf. Welche Entwicklungen sehen Sie hier als besonders problematisch an?

Christoph Schank: In der Unternehmensführung kommt oft die Frage auf, ob sie zum Beispiel auf People Analytics (Analyse von Personaldaten zur Leistungsmessung, Anm. d. Red.) überhaupt noch verzichten kann. Laut aktuellen Befragungen gibt es dazu in Mitteleuropa eine relativ hohe Skepsis in den Personalabteilungen. Rund drei Viertel aller Personaler geben an, diese Programme nicht zu verstehen und lieber auf ihre eigene Erfahrung zu setzen. Aber sie gehen davon aus, dass sie diese Programme in drei Jahren nutzen werden müssen.

Bodo Rosenhahn: Deswegen müssen wir gesellschaftliche Standards festlegen, denen die Prüfverfahren und Algorithmen gerecht werden. Ein Algorithmus kann nur so objektiv wie seine Datenbasis sein, darin steckt eine große Fehlerquelle. Wenn zum Beispiel die digitalen Daten eine bestimmte Personengruppe nicht ausreichend erfassen oder technische Faktoren vernachlässigt werden, kann es bei der Anwendung des Algorithmus zu Diskriminierung oder Fehlurteilen kommen. Das bedeutet auch eine große Herausforderung für die Industrie.

© Nico Niemeyer

Betrifft das vor allem auch die maschinellen Lernverfahren, die mit Daten trainiert werden und dann selbstlernend und autonom Funktionen erfüllen?

Bodo Rosenhahn: Ja. Für mich ist Machine Learning ein Werkzeug. Es darf nicht gehypt werden, es darf aber auch nicht schlecht gemacht werden nach dem Motto „die Maschinen übernehmen die Weltherrschaft“. Ich muss wissen, was die Technologie kann, dann kann ich sie auch einordnen. Wenn ich zum Beispiel ein autonom fahrendes System trainiere und die Daten nur im Frühling und Sommer erhebe, dann wird das System sehr wahrscheinlich nicht im Winter funktionieren, weil es nie Schnee gesehen hat. Aber gerade auch für komplexe Aufgaben benötigen wir maschinelle Lernverfahren, um etwa hochdimensionale Prozessparameter in einer Produktionslinie zu optimieren.

Können Sie ein Beispiel aus der Praxis nennen?

Bodo Rosenhahn: Bei einem Chemie-Unternehmen verbesserten wir die Qualität und Produktionsmenge eines Farbstoffs. Wir konnten den Ausschuss von zehn auf drei Prozent und den Energieverbrauch um 15 Prozent reduzieren. Über lernfähige Algorithmen haben wir hier sehr erfolgreich ein Datenverständnis bei den Arbeitern aufgebaut, die Korrelationen verschiedener Prozess-Stellgrößen wie Druck, Temperatur, Trockenheit und Zeitintervall verständlich gemacht und zur Optimierung genutzt.

"Die Berufsbilder werden technologischer und anspruchsvoller, daher müssen die Beschäftigten die notwendigen Fortbildungen erhalten."

Prof. Bodo Rosenhahn

An diesem Beispiel wird der Nutzen intelligenter Verfahren sehr deutlich. Aber welchen Einfluss haben sie auf die Beschäftigten und ihre Arbeitsplätze?

Bodo Rosenhahn: Ich denke schon, dass sich die Berufsbilder wandeln, technologischer und anspruchsvoller werden. Robotik verdrängt zum Beispiel Arbeitsplätze in der Montage, bietet aber auch körperliche Entlastung. Früher mussten Bürokräfte sich mit Steno auskennen, heute mit SAP. Daher ist es ganz wichtig, dass die Beschäftigten die notwendigen Fortbildungen erhalten.

Christoph Schank: Es wäre fahrlässig, würden wir die gewaltigen Effizienzgewinne und Fortschritte durch Digitalisierung und KI wegdiskutieren. Es geht nicht darum, die Uhr zurückzudrehen, sondern das Ganze mit wachem Auge zu begleiten. Wir müssen dieses Werkzeug, wie Sie es nennen, in unsere gesellschaftlichen Rahmenbedingungen und Erwartungen einbetten. Das geschieht leider noch viel zu selten. Stattdessen werden die Programme isoliert eingesetzt in der Hoffnung auf Optimierung, ohne die Unternehmens-kultur anzupassen.

Wie meinen Sie das?

Christoph Schank: Ingenieure zum Beispiel haben ein stark ausgeprägtes Berufsethos, sie stehen aufgrund ihrer Professionalität und Erfahrung für Entscheidungen ein. Wenn diese Entscheidungen dann immer mehr von Algorithmen getroffen werden, wird die eigene Integrität herausgefordert. Statt eines Vorgesetzten schränkt nun eine Maschine meine Autonomie ein, aber mit ihr kann ich nicht diskutieren, keine qualitativen Argumente austauschen. Grundsätzlich gilt, dass wir Verantwortung nicht outsourcen und einem Algorithmus überlassen dürfen.

Bodo Rosenhahn: Das ist genau der Grund, warum ich die Einführung von KI in Firmen nicht als Produkt sehe, das ich verkaufe, sondern als Prozess. Firmen müssen zunächst offen kommunizieren, welche Ziele sie verfolgen. Dann müssen sie die notwendige Datenbasis schaffen, die Mitarbeitenden schulen, die Algorithmen nach einer ausgiebigen Testphase in den Prozess einpflegen, begleiten und reflektieren. Erst dann können sie Akzeptanz für die Integration von KI gewinnen.

Wer kann die Firmen dabei unterstützen, gerade auch kleine und mittlere Unternehmen (KMU)?

Bodo Rosenhahn: Ich halte es für extrem wichtig, dass Unternehmen bei der KI-Einführung Informatiker, Ethiker, Psychologen und Rechtswissenschaftler mit einbeziehen, damit gesellschaftliche und wirtschaftliche Normen verantwortungsvoll umgesetzt werden. Ich arbeite sehr viel mit KMUs und Start-ups zusammen. Kleine Firmen sind häufig flexibler als große und setzen KI aktiv für ihre speziellen Marktsegmente ein, wohingegen etablierte große Unternehmen eher nur darauf reagieren. Bei der Umsetzung bieten auch die Hochschulen Unterstützung an.

© Nico Niemeyer

Halten Sie es für sinnvoll, KI stärker zu regulieren?

Christoph Schank: Über den „Algorithmus-TÜV“ reden wir ja schon länger. Aber was wollen wir kontrollieren? Wollen wir den Algorithmus als Produkt akzeptieren und uns mit den Folgen beschäftigen, Missbrauch einschränken, Fehlurteile identifizieren und gegebenenfalls Verbote aussprechen, zum Beispiel im Rechtssystem oder in der Krankenpflege? Oder wollen wir schon beim Programmieren ansetzen und Konzepte wie das partizipative Design anwenden, bei dem der Informatiker mit dem späteren Nutzer zusammenarbeitet? Ich befürchte, dass es in der Praxis der Normalfall sein wird, Programme zu kaufen und zu nutzen, ohne sie zu verstehen.

Besteht vielleicht sogar die Gefahr, dass wir die Kontrolle über die Maschinen verlieren?

Bodo Rosenhahn: Viele Algorithmen sind noch viel zu primitiv und einseitig für komplexere Aufgaben. Sie können uns zwar immer wieder erstaunen, trotzdem sollten wir die Grenzen kennen. Ein Taschenrechner etwa ist uns bei höheren Zahlen bei weitem überlegen. Er empfindet aber keine Empathie und kann nicht sagen, ob sein Gegenüber gerade sauer auf ihn ist. Ich sehe aber noch ein ganz anderes Problem: Wir haben großen Nachholbedarf bei unserer Infrastruktur. Viele Server stehen im Ausland, wir nutzen Technik aus dem Ausland. Wenn wir regulieren möchten brauchen wir auch die Kontrolle über solche Infrastrukturen und sollten sie selbst aufbauen. Das bedeutet ein riesiges Investment.

"Wir müssen uns auf einen Idealzustand einigen, auf Werte und auf die roten Linien, die nicht überschritten werden dürfen."

Prof. Christoph Schank

Gibt es auf der anderen Seite auch Gesetze, die Sie in der technologischen Entwicklung einschränken?

Bodo Rosenhahn: Es ist schon ein gewisses Dilemma, dass wir aus Gründen des Persönlichkeitsrechts nicht alle Daten nutzen dürfen, wie wir es wollten, obwohl wir dies auch ethisch korrekt machen könnten. Das müssen wir stärker kommunizieren, sodass wir in einigen Bereichen wieder arbeitsfähig werden. Zum Beispiel darf ich zurzeit die Co-Working-Räume von Mensch und Roboter nicht überwachen, dabei bräuchte ich die Daten, um den Prozess zwischen Mensch und Maschine zu optimieren.

Christoph Schank: Wir müssten uns eigentlich erst einmal auf einen Idealzustand einigen, auf Werte und auf die roten Linien, die nicht überschritten werden dürfen. Wir benötigen eine Vision von der Arbeitswelt, in der wir morgen aufwachen wollen. An vielen Stellen wird bereits an einer Vorstellung einer digitalen Unternehmensverantwortung gearbeitet. Ich finde es wichtig, darüber zu diskutieren, wohin wir wollen, und einen denkbaren Weg dorthin mit normativen Leitplanken zu versehen.

Kann hierbei nicht auch die Wissenschaft eine wesentliche Rolle spielen?

Christoph Schank: Es gibt die Enquete-Kommission „Künstliche Intelligenz“ und weitere Informatiker, die sich bereits intensiv mit der Ethik von Algorithmen beschäftigen. Wir als Wissenschaftler verschiedenster Disziplinen müssen erst einmal untereinander sprach-fähig werden und die Logiken der Disziplinen verstehen lernen. Dieser Austausch würde uns in vielen Grundsatzfragen voranbringen.

Bodo Rosenhahn: In Niedersachsen gibt es mehrere Zukunftslabore zu diesem Thema. Hier und bei vielen weiteren Forschungsprojekten wird sehr interdisziplinär gearbeitet, von den Ingenieur- über Sozial- und Geisteswissenschaften bis hin zur Philosophie. Diese Zusammenarbeit muss auch unbedingt fortgesetzt werden, dazu ist die Veränderung der Gesellschaft durch die Digitalisierung einfach zu groß.

Christoph Schank: Das lässt sich bei jeder Einführung eines neuen EDV-Programms beobachten: Einige wenige kennen sich damit aus, aber die meisten spüren große Unsicherheiten bei der Anwendung. Ich glaube, es war seit der tayloristischen Revolution noch nie so wichtig, den Wandel in Unternehmen und in der Gesellschaft verantwortungsvoll zu gestalten.

Bodo Rosenhahn: Wir werden von den Entwicklungen schon längst überrollt. Von daher ist es wichtig, dass wir uns der Verantwortung stellen und dass wir es nicht die anderen machen lassen. Wir sollten Forschungsfelder nicht per se ablehnen, sondern die Möglichkeiten der Gestaltung ethisch korrekt nutzen.

Interviewpartner

Prof. Dr. Christoph Schank ist Juniorprofessor für Unternehmensethik an der Universität Vechta. Er forscht unter anderem zur gesellschaftlichen Verantwortung von Unternehmen, zur sozioökonomischen Bildung, zu algorithmenbasierten Entscheidungssystemen und Big Data. Vor seiner wissenschaftlichen Laufbahn bekleidete er verschiedene Positionen im Bereich der Unternehmens- und Politikberatung sowie in einer Nichtregierungsorganisation.

Prof. Dr.-Ing. Bodo Rosenhahn arbeitet am Institut für Informationsverarbeitung an der Leibniz Universität Hannover. Zudem ist er Mitglied des Exzellenzclusters PhoenixD zur Entwicklung optischer Technologien. Er erforscht unter anderem die automatische Bildwahrnehmung und Interpretation, maschinelle Lernverfahren sowie die Analyse von Big Data. Mehrere seiner Entwicklungen sind patentiert und erfolgreich in die Industrie transferiert worden.