Künstliche Intelligenz (KI) wird von Menschen für Menschen gemacht. In den Unternehmen gehört sie immer häufiger zum Alltag. Das führt zu ethischen Fragestellungen. Wie zum Beispiel kann verhindert werden, dass einer KI die gleichen Vorurteile und Diskriminierungen eingepflanzt werden, gegen die wir in der Gesellschaft kämpfen? Und kann die KI dabei helfen, diese Ungerechtigkeiten aufzudecken? Ein Essay von André Boße
Das Zeitalter der Künstlichen Intelligenz hat begonnen – und es lässt sich auch durch die Pandemie nicht aufhalten. Und das internationale Marktforschungsunternehmen Gartner hat in einer Untersuchung herausgefunden, dass fast die Hälfte der befragten Unternehmen trotz Corona an den Investitionen im Bereich KI festhalten wird, drei von zehn wollen diese sogar noch erhöhen. Wohlwissend, dass die Pandemie die Herausforderungen von morgen noch verschärft und es sich auszahlen wird, jetzt in die Zukunft zu investieren. Denn in dieser wird KI eine immens große Rolle spielen, da sind sich die Unternehmen ziemlich einig: Laut einer Analyse der Beratungsgesellschaft PwC glauben 85 Prozent der Befragten, dass die KI das Business in den kommenden fünf Jahren signifikant verändern wird. Und zwar – und diese Aussage hat es in sich – stärker noch als seinerzeit der Wandel durch das Internet. Worauf es nun ankomme? Den „Skills Gap“ zu füllen, wie die Experten bei PwC in ihrem Report schreiben. Dabei gehe es nicht nur darum, KI- und Daten-Spezialisten zu finden. „Genau so wichtig ist es, die Mitarbeitenden zu qualifizieren, damit sie KI-Systeme anwenden können“, heißt es im Report.
Die KI ist also bald überall zu finden, auf den Shopfloors und im Office, im Vertrieb und in der Abteilung Human Ressources. Sie ist überall dort, wo Menschen im Unternehmen tätig sind. Nicht um sie zu ersetzen, sondern um sie bei ihrer Arbeit zu unterstützen, sie zu entlasten, ihnen Freiräume zu geben. Was dazu führt, dass man sich genau anschauen muss, welche Wechselwirkungen zwischen KI und Mensch entstehen. Denn klar ist: Es ist der Mensch, der die KI mithilfe des Maschinellen Lernens intelligent macht. Der Mensch mit seinen Vorurteilen. Seinem Weltbild. Angenommen also, eine von weißen Männern dominierte Tech-Company entwickelt ein KI-System, zum Beispiel eines zur Gesichtserkennung: Muss man dann nicht davon ausgehen, dass dieses System den Bias der Entwickler – also die einseitige und damit verfälschte Sicht auf die Welt – übernimmt? Zum Beispiel auch rassistische Vorurteile, die, wenn auch unterbewusst, in die Künstliche Intelligenz eingetragen werden?
KI per se ungerecht?
Wenn Menschen eine KI programmieren – besitzt diese dann automatisch einen rassistischen Bias? Lorena Jaume-Palasí stimmt zu. Die Politikwissenschaftlerin bewegt sich als Beraterin und Wissenschaftlerin im Spannungsfeld zwischen digitaler Technik und Ethik, als Sachverständige ist sie für das Europäische Parlament und die Europäische Kommission tätig. Ihre These: „Die Programme sind automatisch rassistisch, weil die Gesellschaft, in der wir leben rassistisch ist.“ Rassismus sei ein strukturelles Problem unserer westlichen Gesellschaft. „Die Künstliche Intelligenz spiegelt die Ausgangslagen, Selbstverständlichkeiten und Regeln der Kultur, aus der heraus sie entsteht.“
Deutsche vertrauen KI in High-Tech
Laut des Reports „KI-Zukunftskompass“ von Bosch befürworten mehr als zwei Drittel der Deutschen KI-basierte Lösungen bei der Fehlerdiagnose von Maschinen, bei der industriellen Produktion von Waren und Maschinen sowie in der Raumfahrt und anderen High-Tech-Bereichen. Hier sei das Vertrauen in die Möglichkeiten der KI vonseiten der Bevölkerung bereits groß. In Einsatzgebieten, die eher mit Menschenkontakten zu tun haben, etwa in der Krankenpflege oder bei der finanziellen Anlageberatung, seien die Zustimmungsraten für den KI-Einsatz laut Studie mit 40 Prozent bzw. 31 Prozent deutlich geringer.
KI ist also nie neutral, alle ethischen Probleme der Gesellschaft finden sich in ihr wieder. Auch Rassismus und Diskriminierung. Was aber nicht heißt, dass die KI nicht helfen kann, dagegen anzukämpfen. „Wenn wir Künstliche Intelligenz dazu bringen, das, was passiert, zu beschreiben, dann kann sie für uns Diskriminierungsmuster offenlegen, die sich unserem Auge entziehen“, sagt Lorena Jaume-Palasí. Wenn die Menschen die Daten richtig interpretieren, dann könnten mit ihrer Hilfe Asymmetrien gezeigt werden, „von denen wir gar nicht wussten, dass sie existieren. Wir sollten daher davon ausgehen, dass Künstliche Intelligenz tatsächlich weniger Antworten gibt, als dass sie uns dabei hilft, neue Fragen zu stellen.“
Transparenz schafft Vertrauen
Wenn heute also verstärkt KI-Systeme in der Praxis in den Unternehmen oder auch im gesellschaftlichen Leben eingesetzt werden, dann ist es wichtig, transparent zu machen, wie das Maschinelle Lernen vonstatten geht. Studien zeigen, dass die Menschen bislang durchaus Vertrauen in KI-Lösungen haben. Der „KI-Zukunftskompass“ des Technologiekonzerns Bosch zum Beispiel hat bei einer Befragung festgestellt, dass 53 Prozent der Deutschen den Einsatz von KI positiv, 36 Prozent eher negativ einschätzten. Dabei gelte: Je mehr die Menschen über diese Technik und ihre Methoden wissen, desto größer ist das Vertrauen. „So bewerten 81 Prozent aller Befragten, die sich selbst als technologieaffin und informiert einschätzen, Künstliche Intelligenz als grundsätzlich positiv. In der Gruppe derjenigen, die sich selbst für weniger techniknah und eher weniger informiert halten, sind es 27 Prozent.“ Der Einsatz von Künstlicher Intelligenz wird umso positiver bewertet, je größer Vorwissen und Vertrautheit sind. Entsprechend wichtig sind Informationen und Transparenz, gerade mit Blick auf die ethischen Grundprinzipien.
KI-Ethik-Label soll Orientierung geben
Woran jedoch lässt sich erkennen, ob und welche Standards bei der Programmierung eingesetzt wurden? Die AI Ethics Impact Group, ein 2019 gegründetes interdisziplinäres Konsortium unter Leitung des Verbands der Elektrotechnik, Elektronik, Informationstechnik (VDE) und der Bertelsmann Stiftung, hat dazu das Konzept eines KI-Ethik-Labels entwickelt, das optisch bewusst Bezug auf die Energieeffizienz-Label nimmt. Die Gruppe hat für den Report „From Principles to Practice“ sechs ethisch relevante Eigenschaften von KI-Systemen definiert: von der Transparenz über die Gerechtigkeit bis hin zur umweltbezogenen Nachhaltigkeit. Ob und welches KI-Ethik-Label ein Produkt oder eine Dienstleistung erhält, entscheidet sich anhand eines Modells, das die ethischen Werte messbar machen soll.
Nur wenige fürchten den Arbeitsplatzverlust durch Einsatz Künstlicher Intelligenz
Im November 2020 ging es im Rahmen des Meinungsmonitors Künstliche Intelligenz [MeMo:KI] um die Frage: Wie nimmt die Bevölkerung den Einfluss von Künstlicher Intelligenz auf die Arbeitswelt wahr? Demnach erwarten die Bürger*innen mittelfristig nur wenig Veränderung im eigenen Arbeitsumfeld. Diejenigen, die Veränderungen erwarten, unterscheiden deutlich zwischen verschiedenen Aspekten des Arbeitslebens: Während hinsichtlich des Arbeitsschutzes, Anforderungen an notwendige Kompetenzen und Arbeitsbelastung der KI gute Chancen eingeräumt werden, erwarten die meisten Schwierigkeiten bei der Pflege sozialer Kontakte, der Einkommensentwicklung oder der Mitbestimmung am Arbeitsplatz. „Besonders große Befürchtungen gibt es hinsichtlich des Umgangs mit Daten und des Überwachungspotenzials am Arbeitsplatz. Einen Arbeitsplatzverlust für sich und Personen aus dem privaten Umfeld oder gar Massenarbeitslosigkeit befürchten aber nur die wenigsten“, so Studienleiter Prof. Dr. Frank Marcinkowski.
Eine weitere Entwicklung der AI Ethics Impact Group ist eine Risikomatrix, die zusätzlich differenziert, in welchen Bereichen ein KI-System welche potenziell gefährdende Wirkung erzeugen kann. Als Beispiel wird ein auf KI basierendes Online-Empfehlungssystem für Konsumenten genommen: Geht es hier um personalisierte Empfehlungen für Kleidung, sind kaum schwerwiegende ethische Implikationen für den Nutzer zu erwarten. Das ändert sich, wenn der Nutzer über das System Job-Angebote oder politische Werbung erhält. Bei Empfehlungen von medizinischen Produkten oder Therapien erreicht die Risikobewertung ein noch höheres Level: „Es ist klar, dass diese Systeme unterschiedlich behandelt werden müssen“, heißt es im Report.
KI-Roll-Out als Führungsaufgabe von morgen
Wer beim Thema der Künstlichen Intelligenz über Verantwortung und Ethik spricht, darf eines nicht vergessen: In den Unternehmen findet ein Roll-Out dieser Systeme gerade auf den unteren Ebenen statt. Zum Bespiel dort, wo die KI im Zusammenspiel mit dem „Industry Internet of Things“ für eine ganz andere Art der Arbeit sorgen wird. Es wird für Führungskräfte und KI-Spezialisten in den Unternehmen darauf ankommen, diese Systeme so in Anwendung zu bringen, dass die Menschen, die dort arbeiten, das Gefühl der Teilhabe erhalten. Diese Integration der KI in die bestehenden Arbeitsstrukturen wird eine zentrale Leadership-Aufgabe für den Führungsnachwuchs sein.
„KI-Debatten, die ausschließlich im Elfenbeinturm stattfinden, sind nutzlos“, heißt es dazu in einem Report des sozialpartnerschaftlichen Forschungsprojekts „Künstliche Intelligenz“, das in Kooperation von IBM, der Gewerkschaft Verdi sowie dem Bundesministerium für Arbeit und Soziales entstanden ist. „Wenn KI-Anwendungen heute in Betrieben zum Einsatz kommen sollen, geht es um eine Vielzahl sehr realer Fragen und um den konkreten Anwendungskontext: Wie werden die Mitarbeiter*innen, die mit einer KI-Anwendung arbeiten werden, bei deren Implementierung einbezogen? Wie wirkt sich die KI-Anwendung auf die Arbeitssicherheit und den Arbeitsschutz aus? Welchen Effekt hat die KI-Anwendung auf die Arbeitszufriedenheit?“
Will die KI das Ziel erreichen, Menschen zu unterstützen, zu entlasten und für sie neue Freiräume zu erschaffen, dann müssen diese Leute von Beginn an Teil der Debatte sein. In den Unternehmen, wo Führungskräfte diese Diskussionsräume zur Verfügung stellen müssen. Aber natürlich auch in der Gesellschaft, wo KI-Systeme dafür sorgen können, dass Menschen besser mit Behörden interagieren, dass Unternehmen neue Geschäftsmodelle entwickeln, dass die Forschung unterstützt wird – und nicht zuletzt, dass die Künstliche Intelligenz dabei hilft, Diskriminierungen aufzudecken.
Förderinitiative „Künstliche Intelligenz – Ihre Auswirkungen auf die Gesellschaft von morgen“
Welche Chancen bietet KI? Wo liegen Risiken? Und vor allem: Was bedeuten neue Technologien für die Gesellschaft – und für jeden Einzelnen? Zur Beantwortung dieser Fragen, die neben den technischen auch die ethischen, moralischen und normativen Folgen der Entwicklungen betrachten, muss auch die Wissenschaft beitragen. Damit Technik- und Gesellschaftswissenschaften hierfür ihre Kompetenzen bündeln, schafft die VolkswagenStiftung mit ihrer Förderinitiative „Künstliche Intelligenz – Ihre Auswirkungen auf die Gesellschaft von morgen“ den Rahmen für interdisziplinäre Forschungsverbünde und ermöglicht durch die fachübergreifende Zusammenarbeit Perspektivwechsel, die neue Einsichten und Lösungsansätze eröffnen.
KI und die Zukunft der Arbeit
Wohin die Reise für KI gehen könnte, darüber sprach auch Dr. Kai-Fu Lee, CEO von Sinovation Ventures und Präsident des Artificial Intelligence Institute, im Februar 2021 im Rahmen der Digitalkonferenz DLD in seinem Vortrag „AI and the Post Work World“ – sein Beitrag wurde auf Youtube veröffentlicht. Darin zählt er vier KI-Wellen auf, die sämtliche Sektoren verändern werden. Stichwort: Disruption. Und alle vier Wellen – Internet AI, Business AI, Perception AI, also auf Wahrnehmung basierende KI, sowie Autonomous AI – wurden bereits ausgelöst. Sie werden in den kommenden Dekaden nicht nur die Unternehmen, sondern auch die Arbeit der Menschen verändern.
So prophezeit Kai-Fu Lee, dass sämtliche Jobs in den „Händen“ von Maschinen landen werden, in denen Standardaufgaben zu erledigen sind, die mit Routine zu tun haben und die auf Optimierung ausgelegt sind. Letzteres könnte beispielsweise Radiologen betreffen, da entsprechende Programme beispielsweise Röntgenbilder besser auswerten werden können als Menschen. Einzig jene Jobs, in denen es um die Kombination verschiedener Bereiche und Kreativität gehe, seien vorerst vor KI „sicher“. Was also tun? Abwarten sei keine Lösung, so Kai-Fu Lee. Sein Rat, der allerdings nicht neu ist, ist das lebenslange Lernen. Wir Menschen müssen uns, um auf die Zukunft vorbereitet zu sein, die Frage stellen: Was kann KI nicht? KI kann nicht kreativ sein und sie kann keine Konzepte entwickeln, KI kann weder Empathie noch Mitgefühl empfinden und sie kann keine komplexen physikalischen Arbeiten ausführen. Anpassung wird also für den Menschen laut seinen Ausführungen das Gebot der Gegenwart sein.
Buchtipp: Die Simulation
Unter den vielen Romanen und Sachbüchern über die Künstliche Intelligenz gehört „Die Simulation“ von Matthias Clostermann zu den besonders interessanten: Der Autor lässt seinen Protagonisten eine KI erfinden, die in der Lage ist, die wirkliche Welt lebensecht zu simulieren. Ist das endlich der Ausweg aus dem harten wahren Leben? Schon bald merkt der Held, dass diese Simulation erstens süchtig macht und zweitens nicht dazu führt, dass die wirklichen Probleme verschwinden. Im Gegenteil … Matthias Clostermann: „Die Simulation: Die perfekte Illusion. Die perfekte Droge.“ Books on Demand 2020, 11,99 Euro.
Sie spielt Tennis auf Weltklassenniveau, moderiert im Fernsehen, und nun ist ihr literarisches Debüt erschienen: Andrea Petković erzählt aus ihrem Leben, von ihrer Karriere, ihrer Liebe zu Musik und Büchern – und das alles so schlau und lustig, dass auch diejenigen, die mit Tennis nichts am Hut haben, in ihren Bann gezogen werden. Außerdem hat sie den Racquet Book Club gegründet, in dem Literaturliebhaber*innen über Bücher diskutieren. Andrea Petković: Zwischen Ruhm und Ehre liegt die Nacht. Erzählungen. Kiepenheuer & Witsch 2020. 20,00 Euro www.instagram.com/racquetbookclub
Die Schriftstellerin Elif Shafak gilt als eine der bedeutendsten Stimmen für Gleichberechtigung und freiheitliche Werte in Europa. Ihr neues Buch ist ein Plädoyer dafür, dass wir uns endlich gegenseitig Gehör schenken sollen. So ließen sich Demokratie, Einfühlungsvermögen und der Glauben an eine bessere Zukunft fördern. Elif Shafak: Hört einander zu! Kein & Aber 2021. 12,00 Euro
Es gibt kein Leben ohne Risiko schreiben Nathalie Weidenfeld und ihr Mann Julian Nida-Rümelin in ihrem Buch, das sich natürlich auch mit den Gefahren durch Corona auseinandersetzt. Sie fragen danach, welche Risiken wir bereit sind zu tragen und welche nicht, wogegen wir uns schützen können und um welchen Preis. Nathalie Weidenfeld, Julian Nida-Rümelin: Die Realität des Risikos. Über den vernünftigen Umgang mit Gefahren. Piper 2021. 24,00 Euro
Glennon Doyle war Bestseller-Autorin, christliche Bloggerin, Ehefrau und Mutter dreier Kinder – erfolgreich, angepasst und im Grunde unzufrieden. Als sie sich eines Tages Hals über Kopf in die Profi-Fußballerin Abby Wambach verliebte, brach sie aus ihrem Leben aus. Sie verließ den Käfig und machte sich auf die Suche nach ihrem wilden, ungezähmten Ich, nach ihrem Glück. Darüber schreibt sie in ihrem Buch, einer anregenden und Mut machenden Mischung aus autobiographischem Bericht und Ratgeber, das zum New-York- Times- und Spiegel-Bestseller wurde. Glennon Doyle: Ungezähmt. Rowohlt 2020. 16,00 Euro
Früher schrieb sie auch für den karriereführer, heute lebt sie in New York – und schreibt immer noch: Ihr Buch USA 151 stillt unsere Reisesehnsucht in Corona-Zeiten. Gemeinsam mit Kai Blum, einem ebenfalls in New York lebenden Deutschen, hat sie 151 Momentaufnahmen aufgezeichnet, die die Vielfalt der USA zeigen: Von A wie Amtrak (abenteuerliche Zugreisen) über L wie Labor Day (der amerikanische Tag der Arbeit) bis Y wie Yard Sale (Flohmarkt im Vorgarten). Auf jeweils einer Doppelseite mit Bild werden die Themen knackig, informativ und unterhaltsam aufbereitet. Kai Blum und Petrina Engelke: USA 151. Das Land der unbegrenzten Überraschungen in 151 Momentaufnahmen. Conbook 2020. 16,95 Euro
Esther Safran Foer, die Mutter des Bestsellerautors Jonathan Safran Foer (Alles ist erleuchtet), schreibt über die bewegende Geschichte ihrer Familie: Als sie von ihrer Mutter erfährt, dass ihr Vater eine Frau und eine Tochter hatte, die im Holocaust ermordet wurden, macht sie sich auf die Suche. Sie reist in die Ukraine, trifft Zeitzeugen und erfährt mehr über ihren Vater und ihre Halbschwester. Ein Buch über das Geschichtenerzählen, das Erinnern und gegen das Vergessen. Esther Safran Foer: Ihr sollt wissen, dass wir noch da sind. Kiepenheuer & Witsch 2020. 22,00 Euro 
Kitchen Stories: Anyone Can Cook. Unsere liebsten Gerichte für jeden Tag.
Das Kochbuch mit vielen exklusiven Rezepten. Penguin 2020. 26 Euro.
Was stellt die Künstliche Intelligenz der Menschheit in Aussicht? Was macht sie als zunächst nur technische Möglichkeit zur vielfach gepriesenen Hoffnung? In welcher Hinsicht sind solche Hoffnungen überhaupt erfüllbar und nicht vielmehr die ersten Zeichen einer bevorstehenden Apokalypse? Die in diesem Band versammelten Betrachtungen treffen den Nerv einer Zeit, die im globalen Kontext gegen vielfach sich aufdrängende politische Verzweiflung und drohende soziale Verwirrung ankämpfen muss, und dies nicht zuletzt durch die Versprechen Künstlicher Intelligenz. Strasser, Anna; Sohst, Wolfgang; Stepec, Katja; Stapelfeldt, Ralf: Künstliche Intelligenz – Die große Verheißung. Xenomoi 2021, 29,80 Euro
Werden Computer schon bald Musik komponieren, Bücher schreiben, Bilder malen und mathematische Sätze beweisen? Und wenn ja, werden wir den Unterschied zu von Menschen gemachten Werken überhaupt bemerken? Der preisgekrönte Autor von „Die Musik der Primzahlen“ erforscht die Zukunft der Kreativität und untersucht, wie maschinelles Lernen unser Verständnis davon, was Menschen können, sprengen, bereichern und verändern wird. „Der Creativity-Code“ ist eine Studie über Kreativität und zugleich ein Leitfaden durch den Dschungel von Algorithmen und den Regeln, die ihnen zugrunde liegen. Der Oxforder Mathematiker und Erzähler Marcus du Sautoy untersucht, wie Gefühl und Gehirn in unseren Reaktionsweisen auf Kunst zusammenspielen und was es genau bedeutet, in Mathematik, Kunst, Sprache und Musik kreativ zu sein. Er erklärt, wovon es abhängt, ob Maschinen wirklich etwas Neues hervorbringen, und fragt, ob ihre Funktion nicht darin bestehen könnte, uns Menschen kreativer zu machen. Das Ergebnis ist ein Buch über künstliche Intelligenz. Marcus du Sautoy: Der Creativity-Code. C.H. Beck 2021, 26,95 Euro.
Was verändert sich, wenn die Künstliche Intelligenz allgegenwärtig wird? Nicanor Perlas, Mitglied der internationalen Artificial Intelligence Task Force, zeigt auf, dass nur eine ihrer selbst bewusste globale Zivilgesellschaft den Risiken entgegentreten kann. Nicanor Perlas: Der letzte Kampf der Menschheit? Urachhaus 2021, 28 Euro.
Emotionale künstliche Intelligenz gilt als Schlüsseltechnologie der Zukunft. Künstliche Systeme sollen empathisch sein und Empathie in uns auslösen. Doch wie erkennen und verarbeiten künstliche Systeme menschliche Emotionen? Können sie echte Gefühle und Empathie empfinden? Führt die Entwicklung schmerzempfindlicher Roboter in der Biorobotik zur Auflösung der Grenze hin zu biologischen Organismen? Haben wir auch moralische Pflichten gegenüber Robotern, die unser Mitgefühl rühren? Und was ist von Roboterliebe und Sexrobotern zu halten? Die Expertin für Maschinenethik Catrin Misselhorn diskutiert die ethischen und technischen Aspekte dieser Fragen an anschaulichen Beispielen aus der Praxis und gibt einen Überblick über neue Tendenzen der emotionalen Künstlichen Intelligenz, sozialen Robotik und Biorobotik. Catrin Misselhorn: Künstliche Intelligenz und Empathie. Reclam 2021, 6 Euro.
Das Setting des SF-Romans „Singularity“ sieht folgendermaßen aus: Ende des 21. Jahrhunderts. Mittlerweile ist die gesamte Menschheit in zwei Gruppen gespalten: Während die einen mit bester medizinischer Versorgung ein langes Leben führen, sind die anderen schlicht überflüssig. Als billige Arbeitskräfte fristen die meisten Menschen ein mieses Dasein. Einer dieser Überflüssigen ist James, ein Hausdiener bei der Elite. Sein neuer Herr gibt ihm einen rätselhaften Auftrag: Er soll dessen verschollene Tochter wiederfinden – in einer virtuellen Simulation. Schon bald erkennt James, dass nicht bloß die Grenzen von Wirklichkeit und VR verschwimmen, sondern auch die von Mensch und Maschine. Und ihm offenbart sich ein schreckliches Geheimnis, das die Zukunft und Vergangenheit der Menschheit in Frage stellt. Joshua Tree: Singularity. Fischer Tor 2021, 16,99 Euro.
Schnell und kompakt umsetzbar. Ohne Künstliche Intelligenz ist bahnbrechende Innovation heute kaum noch möglich. Zu komplex sind die heutigen Herausforderungen von Klimawandel bis Marsbesiedelung. Das Wissen, wie man KI im Unternehmen sinnvoll einsetzt, haben jedoch die wenigsten. Das Buch schließt diese Lücke. Im Zentrum steht der AI Planner; er ist eine einzigartige Schritt-für-Schritt-Anleitung, um Anwendungskonzepte aus dem Gebiet der Künstlichen Intelligenz für die Geschäfts-, Produkt- und Serviceentwicklung zu erarbeiten. Alessandro Brandolisio, Michael Leitl, Karel Golta: The AI Toolbook. Mit Künstlicher Intelligenz die Zukunft sichern. Murmann 2021, 48 Euro. 