Mit ihrem Buch „Digitale Ethik“ hat Sarah Spiekermann (48), Professorin der Wirtschaftsinformatik an der Wirtschaftsuniversität Wien, ein Standardwerk über Werte in virtuellen Räumen geschrieben. Im Gespräch verdeutlicht die Autorin und Forscherin, warum dem Digitalen häufig das ethische Grundgerüst fehlt, welche Schäden dadurch entsteht und wie es der IT-Welt gelingen kann, mit Hilfe von „ethics by design“ echte Werte zu implementieren. Die Fragen stellte André Boße.
Zur Person
Prof. Dr. Sarah Spiekermann (geboren 1973 in Düsseldorf) leitet seit 2009 das Institut für Wirtschaftsinformatik & Gesellschaft an der Wirtschaftsuniversität Wien. Tätig ist sie über die Lehre hinaus als Autorin, Vortragende und Beraterin für digitale Ethik. Sie ist Mitautorin von US/EU-Datenschutzbestimmungen und arbeitet gelegentlich als Expertin oder Beraterin für Unternehmen und Regierungsinstitutionen, darunter in der Vergangenheit die EU-Kommission und die OECD. Vor ihrem Ruf nach Wien war sie Assistenzprofessorin am Institut für Wirtschaftsinformatik der Humboldt-Universität Berlin, wo sie das Berliner Forschungszentrum für Internetökonomie leitete. Danach war sie in Pittsburgh, USA, als Adjunct Visiting Research Professor tätig. 2008 gründete sie die Firma Skillmap, die sich bis 2011 auf die Visualisierung sozialer Netzwerke spezialisierte. Sarah Spiekermann lebt in einem österreichischen Dorf am Ufer des Neusiedler Sees. Im Jahr 2018 wurde ihr die österreichische Ehrenbürgerschaft verliehen.
Frau Prof. Dr. Spiekermann, es wird vielfach gesagt, die Pandemie sei ein Trigger für bestimmte Entwicklungen gewesen. Was hat sie in Ihrem Forschungsfeld der Digitalen Ethik ausgelöst?
Offensichtlich geworden ist, wie wichtig die IT ist, um in Krisenzeiten die Infrastruktur aufrecht zu erhalten. Solange es Strom und Netzwerkverbindungen gibt, bleiben Prozesse stabil. Existieren diese Verbindungen in einzelnen Bereichen unzureichend, stoßen die Systeme in einer Krise sehr schnell an ihre Grenzen, wie sich zum Beispiel im Bereich der Bildung gezeigt hat. In den Fokus gerückt ist aber auch das Thema der Mitarbeiterüberwachung. Home-Office und digitale Remote-Arbeit haben zugenommen – und es zeigt sich, dass in Unternehmen vielfach ein negatives Menschenbild vorherrscht: Man vertraut den eigenen Leuten nicht. Grund ist eine gewisse Paranoia, auch erzeugt durch die Interpretation der Verhaltensökonomie, nach der ein Mensch irrational sei und Situationen vor allem zu seinen Gunsten ausnutze. Das ist längst widerlegt. Hält sich aber hartnäckig. Sodass Unternehmen sich nicht gefragt haben: Wie nutze ich diese Situation, um Freiräume zu schaffen? Sondern: Wie kontrolliere ich meine Leute?
Ist die Balance aus digitalen und analogen Räumen verloren gegangen?
Diese Balance wird sowieso ständig neu verhandelt, und verschiebt sich weiter in Richtung der digitalen Welten. In der Pandemie hat sich dieses Verhältnis noch einmal zusätzlich in Richtung der digitalen Räume verschoben. Das war notwendig, damit die Prozesse weiterliefen. Es hat aber auch gezeigt, an welchen Stellen sich ethische Probleme ergeben.
Weil in digitalen Räumen die ethischen Standards fehlen?
Es gibt in digitalen Räumen ja noch nicht einmal eine Kultur. Vor Jahren gab es mal eine frühe Form einer „Hacker-Ethik“, einer eigenen Nerd-Kultur. Die großen Plattformen und digitalen Massenmedien dagegen haben sich über Dinge wie Kultur und Ethik noch keine Gedanken gemacht. In der Folge sind die digitalen Medien weiterhin reine Effizienz- und Funktionsmedien. Kultur und Ethik jedoch brauchen mehr, sie werden von Werten getrieben. In dieser Hinsicht gibt es in der digitalen Welt weiterhin eine große Leerstelle.
In der digitalen Welt, so scheint es, sind alle gleichgestellt. Das stimmt aber natürlich nicht.
Entdecken Sie auch in den Sozialen Netzwerken keine eigenständige Kultur?
Ich entdecke dort eher eine eklatante Abwesenheit von Kultur. Nehmen Sie einen Bereich wie die Freundschaftskultur, wie sie auf Facebook vorherrscht. Oder die Frage der Hierarchien: Das Netz mit seinen Sozialen Medien löst diese auf. In der digitalen Welt, so scheint es, sind alle gleichgestellt. Das stimmt aber natürlich nicht. In der Folge kommt es in der digitalen Welt bei vielen Nutzern zu kulturellen Verwechslungen und Fehleinschätzungen. Es entwickeln sich E-Personalities, die sich nur noch in ihrer eigenen, gefilterten Blase spiegeln – und dabei ein Bild von sich entwickeln, das mit der Wirklichkeit nicht übereinstimmt.
Ist Hate-Speech eine Folge dieser Fehleinschätzungen?
Um das Bild aufrechtzuerhalten, sucht man Sicherheit. Einerseits durch die Kommunikation mit Gleichgesinnten in Echokammern, andererseits durch eine möglichst radikale Abgrenzung von anderen. Auf dieser Schnittstelle entsteht Hass auf alles, was nicht Teil der eigenen Blase ist, und das ist gefährlich. Das Problem ist ja nicht nur die verletzende Wirkung von Hate-Speech. Hinzu kommt, dass es Akteure gibt, die diesen Effekt ausnutzen und ohne großen Aufwand Menschen manipulieren können. Weil sie die Verhaltensweisen von Menschen, die sich ständig in ihrer Blase spiegeln, sehr einfach vorhersehen können.
An welche Akteure denken Sie dabei?
Da sind einmal die Verkäufer von Produkten, die bestimmte Blasen gezielt ansprechen. Dann politische Stimmungsmacher, die ein Wahl-, Abstimmungs- oder Demonstrationsverhalten beeinflussen wollen. Und schließlich zersetzende Kräfte, die das Ziel haben, das demokratische Miteinander zu stören oder sogar zu zerstören.
Um bei den Unternehmen zu bleiben, passgenaue Werbung gab es ja schon immer. Je nach dem Milieu von Stadtvierteln werden zum Beispiel andere Plakate aufgehängt. Wo liegt das ethische Problem im digitalen Raum?
Bei den Plakaten ist eine große Zielgruppe die Grundlage für Marketing. Im digitalen Raum dagegen werden einzelne Personen überwacht, um ihnen dann individuell ein Produkt anzubieten. Der Zugang zum potenziellen Kunden erfolgt also über Spionage und Manipulation des Einzelnen. Es entstehen Datensammlungen über Sie und mich – und wir beide sind jeweils identifizierbar. Und das ist ethisch betrachtet nicht in Ordnung. Weil dem Missbrauch Tür und Tor offenstehen. Denn die Daten werden ja nicht nur für weitere Marketingzwecke genutzt, sondern können eben auch in die Hände derjenigen gelangen, die politische oder zersetzende Manipulationen vornehmen.
Warum passiert in einem IT-Medium, was in einem analogen Raum nicht passieren würde?
Der Kommunikationswissenschaftler Marshall McLuhan hat bereits 1964 festgestellt: „The medium is the message“ – das Medium prägt den Charakter der Verhaltensweisen und der Kommunikation, die dort stattfindet, in fundamentaler Weise. Unser Verhalten im analogen Raum baut auf unserer Intuition auf. Angenommen, ich schreie jemanden auf der Straße an, dann signalisieren mir die Blicke der anderen, dass ich hier gerade eine Grenze überschreite. Diese Intuition verliert im digitalen Raum an Wirksam keit. Das Medium ist virtuell, das heißt, dass ich die unmittelbaren Konsequenzen meiner Handlung nicht direkt erkenne – und ich sie daher auch nur schwer nachvollziehen oder ein Gefühl dafür entwickeln kann. Auf diese Weise geht in virtuellen Räumen unser innerer Wertekompass verloren. Das gilt für Individuen, ebenso wie für Unternehmen. Auch bei ihnen fehlt in der digitalen Welt häufig das intuitive Gefühl von: „Das macht man nicht.“ Weshalb nicht wenige von ihnen ohne Schuldgefühle Daten sammeln, verkaufen, kontrollieren und manipulieren.
Es geht also darum, in den Ingenieurs- und IT-Entwicklungsprozessen einen maximalen Schaden zu antizipieren, abzuwenden und vorzubeugen.
Wie kann es gelingen, trotz dieser Umstände eine digitale Ethik zu entwickeln?
Die Antwort lautet „ethics by design“: Die IT-Welt steht vor der Aufgabe, bei der Entwicklung von digitalen Systemen Risiko- Folge-Abschätzungen vorzunehmen, indem sie skizziert, an welchen Stellen Menschen über die Strenge schlagen könnten – um dann die Technik so zu bauen, dass das eben nicht passiert. Es geht also darum, in den Ingenieurs- und IT-Entwicklungsprozessen einen maximalen Schaden zu antizipieren, abzuwenden und vorzubeugen. Wobei für die IT-Welt dieser Ansatz nicht neu ist: Der gesamte Bereich der Security funktioniert so, dass ein Worst-Case-Szenario erst beschrieben und dann mit geeigneten Maßnahmen verhindert wird.
Sie begleiten Start-ups dabei, über digitale Ethik nachzudenken und sie zu implementieren. Was ist Ihr Eindruck, wie wird dieses Thema aktuell auf den Führungsebenen betrachtet?
Es gibt eine Reihe von jungen Unternehmen, die sehr stark von ihrer value mission getrieben sind. Ich kenne zum Beispiel Akteure aus der Lebensmittelbranche, die mit ihrem digitalen Vertrieb dafür sorgen, dass Landwirte aus der Region zu fairen Preisen ihre Ware verkaufen können. Es gibt aber auch weiterhin Start-ups, die möglichst schnell möglichst viel Disruption erreichen wollen. Sprich: Die Konkurrenz ausbooten. Wobei ich auch merke, dass ein solcher Ansatz die Menschen, die dort tätig sind, häufig auch selbst disrupted: Es ist unfassbar unbefriedigend, zu erkennen, wenn sich die eigenen Werte in keiner Weise in der Unternehmenskultur wiederfinden. Da verliert man nicht nur die Lust und Lebenszeit, sondern auch sich selbst.
Mit Blick auf die enormen Probleme des menschengemachten Klimawandels wird immer häufiger die digitale Technik als Lösung angepriesen: IT-Innovationen werden dafür sorgen, dass die Krise abgemildert wird. Ist das eine berechtigte Hoffnung?
Nein, das ist leider eine totale Überschätzung der Kraft des Digitalen. Nur der Mensch kann den Menschen retten. Es geht nicht darum, dass Technik uns Fortschritte organsiert. Sondern darum, die Werte zu definieren, in deren Dienst Technik eingesetzt wird. Und das bestimmen wir selbst. Nutzen wir die IT weiterhin fürs Geldverdienen? Dann ist sie kein Heilsbringer, sondern eine Zerstörungsmaschine in den Diensten eines neoliberalen Kapitalismus. Nur, wenn wir die Macht der Technologie nutzen, um „wert“-volles zu erschaffen, dann kann sie sich positiv entfalten. Wie wir sie bauen, hängt immer von den Menschen ab, die bestimmen, wofür sie gut sein kann.
„Werte“-schöpfung statt Wertschöfpung.
Interessant, dass sie den Plural verwenden, der Singular würde mir schon reichen: Es wäre gut, wenn jedes Unternehmen einen einzigen Wert nennen kann, der nichts damit zu tun hat, Geld zu verdienen. Das Schöne ist ja: Gibt es diesen Wert, dann kommt das Geld von allein. Denn dort, wo Unternehmen einen Wert für die Gemeinschaft erschaffen, sind die Menschen auch bereit, diese Unternehmung wertzuschätzen und etwas dafür zu bezahlen. Eine ethische Strategie schließt Geld also nicht aus. Sie ernennt es aber nicht zum einzigen Handlungsprinzip.
Zum Buch
Sarah Spiekermanns Buch „Digitale Ethik – Ein Wertesystem für das 21. Jahrhundert“ (Droemer Verlag, 2019) beschäftigt sich aus kulturhistorischer und gesellschaftsökonomischer Perspektive mit dem „Werte“-Gerüst der Digitalisierung. Der Weg führt von den Alten Griechen ins Silicon Valley. Ersichtlich wird bei der Lektüre, dass IT-Entwicklungen nicht bei den aktuell dominierenden Aspekten Effizienz, Komfort und Geldvermehrung stehen bleiben dürfen. Gefragt sei vielmehr der Mensch: Während die User vor der Herausforderung stehen, sich bewusster in digitalen Räumen zu verhalten, sollten IT-Entwickler*innen in Unternehmen die Aufgabe annehmen, Werte zu definieren, die über die Geldvermehrung hinausgehen, und diese nach dem Prinzip „ethics by design“ in digitale Innovationen einzubauen
Was genau zeichnen die smarten Geräte bei uns zu Hause auf? Gehört dem autonomen Fahren die Zukunft? Wo entscheiden Algorithmen besser als der Mensch, wo aber nicht? Und wie groß ist die Chance wirklich, beim Online-Dating den Partner fürs Leben zu finden? In seinem neuen Buch beschreibt der weltweit renommierte Pschologe und Risikoforscher Gerd Gigerenzer anhand vieler konkreter Beispiele, wie wir die Chancen und Risiken der digitalen Welt für unser Leben richtig einschätzen und uns vor den Verlockungen sozialer Medien schützen können. Kurz: wie wir digitale Kompetenz erwerben und auch online kluge Entscheidungen treffen. Gerd Gigerenzer: Klick. C.Bertelsmann 2021, 24 Euro
Klara ist eine künstliche Intelligenz, entwickelt, um Jugendlichen eine Gefährtin zu sein auf dem Weg ins Erwachsenwerden. Vom Schaufenster eines Spielzeuggeschäfts aus beobachtet sie genau, was draußen vor sich geht, studiert das Verhalten der Kundinnen und Kunden und hofft, bald von einem jungen Menschen als neue Freundin ausgewählt zu werden. Als sich ihr Wunsch endlich erfüllt und ein Mädchen sie mit nach Hause nimmt, muss sie jedoch bald feststellen, dass sie auf die Versprechen von Menschen nicht allzu viel geben sollte. „Klara und die Sonne“ ist der neue Roman von Kazuo Ishiguro, der 2017 den Nobelpreis für Literatur erhielt. Kazuo Ishiguro: Klara und die Sonne. Blessing 2021, 24 Euro.
Der deutsche Logiker Gerhard Gentzen zählte zu den genialsten seines Fachs. Doch wer erinnert sich an ihn? Dietmar Dath macht sich in seinem Roman „Gentzen oder: Betrunken aufräumen“ mit Laura und Jan auf die Suche nach jemandem, an den sie sich nicht mehr erinnern. Der Leser betritt einen Denkraum, in dem nicht nur Gerhard Gentzen aufritt, sondern auch noch ganz andere Figuren: Dietmar, der seit zehn Jahren an einem Roman über einen berühmten Logiker schreibt, aber auch Frank Schirrmacher, der sich den Kopf über das Internet zerbricht, Jeff Bezos, Ruth Garrett Millikan, eine schiefe Tante und ein geheimnisvolles Wesen, das das Leben auf der Erde erheblich in Gefahr bringen wird. Das ganze Personal dieses großen Romans stellt sich in den Dienst der Suche nach der Grundlage unseres Lebens in der Gegenwart: der schier unendlich scheinenden Rechenleistung der Computer. Sie ermöglicht die Flugbuchungen, die Verteilung von Impfstoffen oder Hilfsgütern, die Steuerung der Atomwaffenarsenale oder die detaillierten Abbildungen eines Lebens durch Likes und Kommentare in den sozialen Medien, die es nicht gäbe, wenn Programme nicht die Funktionsweise von Programmen überprüfen könnten. Dass sie das können, hat wiederum mit Gerhard Gentzen zu tun. Dietmar Dath: Gentzen oder: Betrunken aufräumen. Matthes & Seitz 2021, 26 Euro
Nach einer folgenschweren Panne bei der Lohn- und Gehaltsabrechnung wird Maxine, eine leitende Softwareentwicklerin, unverschuldet in das berüchtigte Projekt Phoenix strafversetzt. Dort verzweifelt sie fast an einem bürokratischen Monsterapparat mit endlosen Meetings und hochkomplizierten Regeln – bis sie von firmeninternen Rebellen angeworben wird, die die bestehende Ordnung umstürzen wollen: Damit Entwicklerinnen und Entwickler wieder echte Freude an ihrer Arbeit haben. Die kluge und kämpferische Maxine und ihre rebellischen Kolleginnen und Kollegen rufen Projekt Unicorn ins Leben und setzen dabei auf die »Fünf Ideale«. Damit verändern sie grundlegend, wie die Business- und Technologiebereiche des Unternehmens zusammenarbeiten – und geraten in das Fadenkreuz einflussreicher und gefährlicher Gegner. Gelingt es ihnen, das Überleben von Parts Unlimited in einem Wettrennen gegen die Zeit zu sichern? Packend beschreibt Gene Kim, Autor des Bestsellers »Projekt Phoenix«, die Herausforderungen, denen sich Unternehmen – und alle, die in ihnen arbeiten – im Zeitalter von Digital Disruption stellen müssen: in der Softwareentwicklung und als lernende Organisation. Gene Kim: Projekt Unicorn. O‘Reilly 2020, 24,90 Euro
Der leidenschaftliche Gamer Mirko geht in der Virtual Reality seiner Spiele auf. Er wird Teil einer Community, die das Prinzip der „Gamification“ lebt – Unterhaltung über alles, Brot und Spiele. Und die Arena besteht längst nicht nur aus Nullen und Einsen. Leo Hartmann: Gamification-Testspiel. Novum 2021, 17,90 Euro
Um herauszufinden, wie es um die Zukunft im Zeitalter der Künstlichen Intelligenz steht, begibt sich der französische Philosoph und Essayist Gaspard Koenig auf eine Weltreise. In mehr als 120 Gesprächen mit Wissenschaftlern, Politikern, Unternehmern, Investoren, Aktivisten und einem Zauberer lotet er die künstliche und die menschliche Intelligenz aus. Er erforscht, was den freien Willen und die Werte der Aufklärung bedroht, und skizziert eine Politik, die dem Ende des Individuums begegnen kann. Gaspard Koenig: Das Ende des Individuums. Galiani 2021, 24 Euro.
