Aktuelles

Armin Grunwald konnte an diesen Punkt direkt anschließen und unterstrich in seinem Hauptimpuls anhand von fünf Thesen, dass sich die Bevölkerung nicht in Narrativen der Anpassung an eine unaufhaltsame Digitalisierung verlieren solle. Stattdessen sollen die Menschen durch das Erlangen einer digitalen Mündigkeit, dem Durchschauen der "Gemachtheit der Digitalisierung" und der Stärkung des gestalterischen Denkens in Alternativen statt Anpassungszwängen verhindern, der Digitalisierung unterlegen zu sein.

These 1 – Sorgen über die Auswirkungen von Algorithmen sind konstruktiv

Armin Grunwald begann mit der These, dass die Digitalisierung in ihren Produkten und Dienstleistungen meist begeistert aufgenommen wird – nicht zuletzt, weil sie viele Versprechungen mache. Sorgen bereiteten aber vorwiegend die Themen des Datenschutzes, die Möglichkeit einer allgegenwärtigen, unsichtbaren Überwachung und ein damit einhergehender Kontrollverlust, auch über die Algorithmen und wie diese das Leben beeinflussen.

Diese Sorgen werden vielleicht häufig als innovationsfeindlich wahrgenommen, sind aber konstruktiv zu verstehen und damit von positiver Schaffenskraft. In der Sorge artikulieren sich zugleich aber häufig auch ernstzunehmende Ängste. Ängste können sich jedoch auch als destruktiv herausstellen.

These 2 – Digitale Techniken sind in vielem besser als der Mensch und das ist gut

Einige der Sorgen und Ängste, beruhen darauf, dass digitale Technik manches besser kann als der Mensch. Dies sei aber auch der Grund, warum wir sie erfinden. Auch mittlerweile ganz triviale Technologien erlauben dem Menschen, Dinge zu tun, die sonst sehr mühselig oder unmöglich wären. Schon ein Spaten erlaubt es, eine Grube in sehr viel kürzerer Zeit als mit bloßen Händen zu graben. Technik berge also ein Verbesserungspotenzial, welches nutzbar gemacht werden kann und immer auch ein destruktives Potenzial, vor dem man sich absichern muss.

Es könne also nicht sein, dass allein die Tatsache, dass Technologie dem Menschen in einigen Bereichen überlegen sein kann, ein grundsätzliches Problem in der verantwortungsvollen Technikgestaltung sei. Damit der Mensch der Technologie nicht unterliegt, müsse er sie sich für seine Zwecke zu Nutze machen.

These 3 – Wichtige Befürchtungen betreffen eine Technisierung verbunden mit Anpassungszwängen, die die menschliche Freiheit verringern

Zunehmend autonome Technologien bedingen aufgrund ihrer Gestaltung häufig ein berechtigtes Gefühl, dass sich der Mensch dem technischen System anpassen solle, anstatt dass dies umgekehrt geschehe. Ein Beispiel stellen autonome Fahrzeuge dar. Ist es der Mensch gewohnt, sich non-verbal mit anderen Verkehrsteilnehmer*innen zu verständigen, wird die Kommunikation und Verhaltensweise gegenüber autonomen Fahrzeugen vermutlich eine andere sein. Häufig ist die Umkehrung des Anpassungsverhältnisses an der Mensch-Maschine-Schnittstelle zu lasten des Menschen eine Ursache für negative Wahrnehmung und Anpassungsbefürchtung.

These 4 – Die Digitalisierung wird häufig als Naturgewalt vermittelt

Das Gefühl der unvermeidlichen Anpassung stellt sich auch auf einer allgemeineren Ebene: in der Wahrnehmung der Digitalisierung als Naturgewalt, gegen die man nichts tun könne, zu der es keine Alternative gebe und an die man sich deswegen anpassen müsse, um nicht zu den Verlierern zu gehören. Diese Sichtweise prophezeit einen absoluten Technikdeterminismus. Politische Slogans wie „wir müssen uns fit machen für die Digitalisierung“ verraten unfreiwillig die Wahrnehmung oder Befürwortung dieser Anpassungsnotwendigkeit, oft verbunden mit einer Drohrhetorik: "Wenn das nicht schnell genug geht, steigen wir wirtschaftlich ab." Dabei wird die „Gemachtheit“ der Digitalisierung unterschlagen bzw. ignoriert.

These 5 – Digitalisierung wird von Menschen gestaltet und ist daher prinzipiell anpassbar

Digitale Technik und KI entstehen in Kaskaden von Entscheidungsprozessen, in denen bestimmte Akteure mit bestimmten Werten und Interessen Entscheidungen treffen. Programme, Algorithmen, Roboter, digitale Dienstleistungen, Geschäftsmodelle etc. werden von Menschen erfunden, entworfen, hergestellt und eingesetzt, hauptsächlich in Unternehmen, Forschungseinrichtungen, Behörden oder Geheimdiensten. Darin kommen spezifische Werte, Einschätzungen und Interessen, Unternehmensstrategien, Geschäftsmodelle, oder militärische Erwägungen zum Einsatz, die die Ziele und Anforderungsprofile der digitalen Entwicklungen prägen. Die Erkennung der „Gemachtheit“ der Digitalisierung wirft die Frage nach Alternativen auf, genauso wie die Frage nach Möglichkeiten der zivilgesellschaftlichen (Mit-)Gestaltung.

Zusammenfassung

Ein "technischer Pluralismus", in dem Bürger*innen die Technologie verwenden können, die zu ihnen passt, kann den Anpassungsdruck und das Gefühl der Unterlegenheit nachhaltig verringern.

In der anschließenden Diskussion wurde zunächst Frau Dr. Kalmbach zu der Rolle von Ängsten in der Technologieentwicklung befragt. Frau Kalmbach erläuterte, dass sich aus wissenschaftshistorischer Sicht gut erkennen ließe, wie Ängste ganze Technologieentwicklungen antreiben. Dabei gelte häufig der Mythos der rationalen Wissenschaftler*innen, die sich vollständig objektiv dem technischen Prozess und Machbaren widmen. Die Offenlegung der Rolle von Emotionen im Entwicklungsprozess legt jedoch dar, dass Technologieentwicklung keineswegs ein rein rationaler Prozess sei.

Diese Aussage leitete zu der Frage an Herrn Dr. Herzog über, wie eine Sensibilisierung für Werte und Ethik in der universitären Lehre möglich sei. Herr Herzog vermittelte daraufhin eine Skizze der Pflichtlehrveranstaltung "Technikethik" im Studiengang Robotik und Autonome Systeme der Universität zu Lübeck. Hier werden Studierendengruppen mit Start-Ups des lokalen Start-Up Accelerators Gateway49 zusammengebracht, um schon früh im Entwicklungsprozess ethische Aspekte zu beleuchten. Das Grundprinzip besteht darin, den ingenieurwissenschaftlichen Gestaltungswillen mit dem Bewusstsein für die notwendige Problematisierung sozio-ethischer Themen zu vereinen. Die Start-Ups werden in einem semesterbegleitenden iterativen Prozess durch die Studierenden mit einer Analyse ethisch relevanter Themen unterstützt, während die Start-Ups eine spannende Echtwelt-Fallstudie darstellen. Relevante Theorieeinheiten zwischen den Austauschtreffen zwischen Studierenden und Start-Up vermitteln den Studierenden das notwendige Hintergrundwissen.

Daraufhin wurde Jonas Kremmers, Absolvent des Kurses, zu seinen Erfahrungen befragt. Er konnte berichten, dass der Einstieg zunächst holprig verlief, da zuerst das Geschäftsmodell und der technische Ansatz des Start-Ups durchdrungen werden musste, während parallel Theorieteile des Kurses forderten. Im Laufe des Semesters wurden aber immer mehr Punkte gefunden, die zum einen ethisch relevant waren und sowohl das studentische als auch das Interesse des Start-Ups weckten.

Stefan Stengel, Programmmanager des Accelerators, hatte im Vorfeld mit allen teilnehmenden Start-Ups Interviews zu ihren Erfahrungen geführt und konnte berichten, dass der Ansatz, konstruktiv anstatt dämonisierend an die Ethikthemen heranzugehen, großen Zuspruch bei den Beteiligten gefunden hatte. Es sei wichtig, Digitalisierung nicht als Drohkulisse, sondern als Lösungsmöglichkeit zu verstehen und den Fokus auf die positiven Potenziale zu setzen.

Sabrina Breyer, mit der Integration ethischer Überlegungen in ausgewählte Forschungsprojekte des KI-SIGS Konsortiums beauftragt, berichtete, dass offene Fragen methodisch-konzeptioneller Art bestünden. Wie können ethische Aspekte im unternehmerischen Technologieentwicklungsprozess sinnvoll institutionalisiert werden? Hierbei ist ein Forschungsfeld angesprochen, in dem zwar schon einige Ansätze existierten, die unternehmerischen Realitäten sich aber so grundlegend unterschieden, dass die methodische Einengung zum Teil nicht ratsam sei.

Um diesen Punkt zu unterstützen, wurde Prof. Grunwald einmal gebeten, das Feld und die Praxis der Technikfolgenabschätzung zu skizzieren. Kurz charakterisiert, stellte Herr Grunwald das Feld als ausgesprochen interdisziplinär vor, welches zukünftige Problemstellungen identifiziere, Szenarien entwerfe und Handlungsoptionen skizziere. Beispielhaft führte er die Studie "Was bei einem Blackout geschieht" des Büros für Technikfolgenabschätzung beim Bundestag aus dem Jahre 2011 an, die zur politischen Initiative für Nachbesserungen und technischen Systemen für das Abfangen der Folgen eines Blackouts führten.

Frau Kalmbach erklärte daraufhin Ansätze, die über die Beratung politischer Entscheidungsträger*innen hinaus versuchen, bürgernahe Technologie unter Beteiligung der Zivilgesellschaft zu generieren.

Sabrina Breyer konnte aus Ihrer Erfahrung im Projekt KI-SIGS berichten, dass es eine gewisse Grundskepsis gegenüber dem tatsächlichen Mehrwert der Integration ethischer Betrachtungen in den Entwicklungsprozess gibt. Die Herausstellung dieses Mehrwerts sei zum einen wissenschaftliche Herausforderung, zum anderen bestehe aber auch eine grundsätzliche Schwierigkeit, beweisen zu können, dass die explizite ethische Reflexion während der Entwicklung zu bspw. nachhaltigerem Produkterfolg führe.

Abschließend wurde weiter über den zusätzlichen zeitlichen Aufwand der Integration von ethischen Überlegungen in die industrielle Praxis diskutiert. Standardisierungen können hierbei helfen. Jonas Kremmers verglich das ethische Reflektieren mit der Bestätigung von AGBs durch Verbraucher*innen – beide seien wichtig, lenkten aber von der eigentlich gewünschten Tätigkeit ab. Dies sei aber nur scheinbar so, denn die Berücksichtigung rechtlicher wie ethischer Aspekte sei von ganz grundlegender Bedeutung.

Armin Grunwald gab zu bedenken, dass die Ethik neben Erlaubnissen und Verboten auch begründete Sollenssätze enthielten. Im Sinne der Innovation als gelebte ethische Praxis gäbe es demnach auch ethisch-begründbare Gebote, eine gewisse technische Lösung anzustreben. Dies sei ein möglicher Motor für gute Innovationen im Sinne eines gesellschaftlichen Nutzens.