Der Einsatz von Systemen mit Künstlicher Intelligenz ist überall dort sinnvoll, wo Menschen die Komplexität an Daten nicht mehr durchschauen. Dies ist zum Beispiel bei den Lieferketten in Handelsunternehmen der Fall: KI gibt die Chance, diese zu analysieren und tatsächlich nachhaltig und fair zu gestalten. Aber Achtung: Da die KI von Menschen gestaltet wird, stecken die menschlichen Vorurteile auch in den Systemen. Ein Essay von André Boße
Die US-Digitalexpertin und Autorin Frederike Kaltheuner hat eine Anthologie über die Künstliche Intelligenz geschrieben, die den für diese Zukunftstechnik wenig schmeichelhaften Titel „Fake AI“ trägt. Für das im Netz frei zugängliche Buch (zu finden unter: fakeaibook.com) haben diverse Autor*innen über die KI geschrieben, zum Einstieg hat Frederike Kaltheuner den Informatik-Professor Arvind Narayanan interviewt, Hochschullehrer in Princeton, laut Ranking weltweit die elftwichtigste Hochschule im Bereich „Computer Science“. Wer hier lehrt, der beherrscht also sein Fach.
Recruiting ist ein Stochern im Nebel – umso begieriger greife man zum „Snake Oil“ in der Hoffnung, dass die KI diesen Nebel lichten möge. Was sie natürlich nicht könne.
Im Interview sagt der Princeton-Professor einen bemerkenswerten Satz, im englischen Original lautet er: „Much of what is sold commercially today as ‘AI’ is what I call ‘snake oil’.“ Auf Deutsch: Vieles von dem, was heute unter dem Label KI verkauft werde, bezeichne er als „Schlangenöl“. Gemeint ist öliges Zeug, das zur Zeit des Wilden Westens von vermeintlichen Wunderheilern bei ihren „Medicine Shows“ verscherbelt wurde, gekoppelt an das Versprechen, diese Tinkturen würden gegen diverse Leiden helfen. Der Begriff hat es viele Jahre später von der Prairie in die Welt der Software geschafft, als „snake oil“ werden IT-Produkte bezeichnet, die Bemerkenswertes versprechen, davon jedoch fast nichts halten, zum Beispiel in der Praxis nutzlose Antiviren-, Festplattenaufräum- oder Arbeitsspeicherverdoppelungsprogramme. Arvind Narayanan trifft also ein hartes Urteil über viele der Versprechen der KI, macht aber eine wichtige Differenzierung: „Some are not snake oil.“ Einige Künstliche Intelligenzen wirkten, andere nicht. Wo also liegt der Unterschied?
Superintelligenz? Schlangenöl!
Seine Kritik fokussiert Arvind Narayanan auf eine „Artificial General Intelligence“ (AGI), eine Allgemeine Künstliche Intelligenz, die in der Lage sei, nahezu jede intellektuelle Aufgabe zu erlernen. Eine solche Superintelligenz würde also das Problembewusstsein eines Menschen mit der Rechengeschwindigkeit von Supercomputern kombinieren; sie arbeite damit nicht mehr aufgabenspezifisch, sondern generell. Umfragen zeigten, sagt Narayanan, dass viele Menschen glaubten, diese Form von AGI stehe kurz vor der Realisation – womit ein Wendepunkt der menschlichen Zivilisation kurz bevorstehe. „I don’t think that’s true at all“, hält Narayanan dagegen. Er beschreibt die Vorstellung, die aktuellen Fortschritte im Bereich der Künstlichen Intelligenz könnten zu einer solchen „Artificial General Intelligence“ führen, mit dem Versuch, eine immer längere Leiter zu bauen, um damit den Mond zu erreichen. Kurz: Die Vorstellung einer AGI sei „absurd.“
KI im Handel
Laut einer Studie des Handelsverbands Deutschland (HDE) sind zu hohe Kosten das Haupthindernis, in KI-Systeme zu investieren. „Der Einsatz von Künstlicher Intelligenz ist in vielen Bereichen des Handels eine wichtige Investition in die Zukunftsfähigkeit. Unsere Studie zeigt aber, dass der mittelständische Handel in Deutschland vor den damit verbundenen Investitionen oft zurückschreckt“, wird Stephan Tromp, stellvertretender HDE-Hauptgeschäftsführer, in einer Pressemitteilung zur Studie zitiert. Aus der Studie von HDE und „Safaric Consulting geht hervor, dass KI-Projekte in rund 37 Prozent der befragten Handelsunternehmen einen mittleren Stellenwert haben: Sie führen konkrete Projekte durch, um einzelne Prozesse zu unterstützen. Zwar sei das Interesse am Einsatz von KI im Vergleich zum Vorjahr gewachsen, doch nur 2,5 Prozent der Befragten wendeten KI unternehmensübergreifend an. Bei 10,6 Prozent komme sie in einzelnen Bereichen zum Einsatz. Genutzt wird KI vor allem in Form von Kamerasystemen zum Diebstahlschutz, zur Klassifizierung von Produktgruppen sowie zur automatisierten Sortimentsüberarbeitung und somit insgesamt im Rahmen einfacher Anwendungsfälle.
Bei den Bereichen, in denen die Menschen laut Arvind Narayanan besonders anfällig für „Schlangenöl-KI“ seien, steche eines besonders hervor: das Recruiting. Dass man hier auf Künstliche Intelligenz hoffe, liege daran, dass die Not besonders groß sei – weil halt niemand vorhersagen könne, ob eine neu eingestellte Person tatsächlich in einem Job etwa in der Handelsbranche überzeugen werde oder nicht. Recruiting ist ein Stochern im Nebel – umso begieriger greife man zum „Snake Oil“, in der Hoffnung, dass die KI diesen Nebel lichten möge. Was sie natürlich nicht könne: Es gebe, sagt Arvind Narayanan im Interview im Buch „Fake AI“, mittlerweile eine Reihe wissenschaftlicher Studien, die gründlich der Frage nachgegangen seien, wie gut KI-Systeme darin sind, soziale Folgen von Entscheidungen abzuschätzen, zum Beispiel der, wen man für einen neuen Job einstellt und wen nicht. Das Ergebnis: „Die KI schneidet so gerade bei besser als der Zufall ab.“
Recruiting führt KI an die Grenzen
Eine Meldung zu den Human Ressource-Trends für das Jahr 2022 des Talent-Lösungs-Anbieters Robert Halt scheint dieser Ansicht zu widersprechen. KI werde „bei der Suche nach geeigneten Bewerber*innen eine unterstützende Rolle spielen“, wird Sven Hennige, Senior Managing Director Central Europe bei Robert Half, in einer Pressemeldung zur Vorstellung der aktuellen Arbeitsmarktstudie 2021 zitiert. Basis der Analyse ist die Befragung von 300 Manager*innen mit Personalverantwortung in kleinen, mittelgroßen und großen deutschen Unternehmen, darunter auch Handelsunternehmen. Dabei zeigen sich zwei Einsatzgebiete der Systeme: Zum einen setzen Personalabteilungen sie ein, um Termine für Bewerbungsgespräche zu koordinieren oder formale Anforderungen in den Unterlagen prüfen, um so den Kreis der Kandidat*innen zu definieren. Das sind alles Routinearbeiten im Vorfeld, hier übernimmt die Künstliche Intelligenz eine Reihe von Prozessen, die den Menschen viel Zeit kosten. Der positive Effekt: Die HR-Spezialisten können sich auf ihre wahre Arbeit fokussieren. Kein „snake oil“, sondern echte Hilfe.
KI soll Bewerbungsverfahren bestenfalls fairer machen. Denn: Menschen sind nicht immer vorurteilsfrei.
Doch die Befragten nannten noch ein weiteres Einsatzfeld für die KI im Bereich des Recruiting: Sie könne auch dafür genutzt werden, auf Basis einer passenden Datenbasis zu entscheiden, ob jemand anhand der fachlichen Skills für einen Job in einem Handelsunternehmen geeignet sei – und zwar unabhängig von den sonstigen Merkmalen dieser Person. „Die Entscheidung richtet sich dann zum Beispiel nicht danach, ob es sich bei dem Bewerber um einen Mann oder eine Frau handelt“, so Hennige in der Pressemeldung. Seine Schlussfolgerung: „KI soll Bewerbungsverfahren bestenfalls auch fairer machen. Denn: Menschen sind nicht immer vorurteilsfrei.“ Das stimmt. Der Haken an der Sache ist nur: Das stimmt dann aber auch für die Künstliche Intelligenz. Schließlich wird sie von den vorurteilsbehafteten Menschen gestaltet.
KI im Handel: Muster erkennen
Ein Blick in die Praxis zeigt, wo Künstliche Intelligenz aktuell in den großen deutschen Unternehmen zum Einsatz kommt. Siemens vermeldet in einem Pressetext, die KI gestalte die Produktion in der Industrie „effizienter, flexibler und zuverlässiger“. Konkrete Anwendungen seien „Spracherkennung zum Bearbeiten einfacher Aufträge, das Erfassen von Umgebungen mittels Kameras, Laser- oder Röntgenstrahlen bis hin zu virtuellen persönlichen Assistenten in der Logistik“, heißt es in der Meldung zu den industriellen Anwendungsfeldern der KI. Bei Audi setzt man laut Pressmeldung aus dem Sommer 2021 darauf, KI-Methoden für einen besonders komplexen Bereich einzusetzen, der auch für den Handel von großer Bedeutung ist: den Einblick in die Lieferkette. Gerade diese Komplexität sorge dafür, dass es wichtig sei, „mögliche Risiken zu verstehen und Zusammenhänge frühzeitig herzustellen“, heißt es in der Pressemeldung.
Magazin zu KI-Gestaltungen und -Erfahrungen
„TATuP – Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis“ nennt sich ein Open-Access-Zeitschriftenprojekt des Instituts für Technikfolgenabschätzung und Systemanalyse (ITAS). Es erscheint beim Oekom-Verlag, der PDF-Zugriff ist gratis. Die Ausgabe 30, erschienen Ende 2021, widmet sich dem Thema „KI-Systeme gestalten und erfahren“ – ein Titel, der impliziert, dass es Menschen sind, die bei der Entwicklung der KI-Systeme die Gestaltungsrolle übernehmen. In ihren Texten betrachten die Autor*innen u. a. die juristischen oder demokratietheoretischen Rahmenbedingungen von KI sowie die Frage, wie sich solche Systeme in Hinblick auf Akzeptanz und Vertrauen mitarbeiterfreundlich implementieren lassen. www.tatup.de
Im Herbst 2020 startete Audi ein Pilotprojekt: In weltweit rund 150 Ländern analysieren intelligente Algorithmen Nachrichten über Lieferant*innen aus online zugänglichen öffentlichen Medien und sozialen Netzwerken. „Geprüft werden Nachhaltigkeitskriterien wie Umweltverschmutzung, Menschenrechtsverstöße und Korruption. Besteht der Verdacht auf potenzielle Nachhaltigkeitsverstöße, schlägt die Künstliche Intelligenz Alarm“, heißt es in der Pressemeldung. Entwickelt wurde die dafür eingesetzte KI vom österreichischen Start-up Prewave. „Machine Learning und automatisierte Sprachverarbeitung machen so möglich, was manuell ein Ding der Unmöglichkeit wäre: kontinuierliche Risikoabschätzungen über die gesamte Lieferkette hinweg, mit denen die Beschaffung dann proaktiv auf die Lieferant*innen zugehen kann“, wird Harald Nitschinger, CEO von Prewave, in der Audi-Pressemeldung zitiert.
Die Fallbeispiele aus der Praxis zeigen: Zum Einsatz kommt Künstliche Intelligenz in den Unternehmen vor allem dort, wo die Menge und Tiefe an Informationen das menschliche Gehirn komplett überfordert. Welche dieser Daten relevant sind und welche nicht – diese Regeln gibt weiterhin der Mensch vor. Das muss er auch, denn eine KI weiß von sich aus nichts über Menschenrechte oder das Fehlverhalten der Korruption. Daraus folgen zwei Dinge: Erstens bleibt der Mensch das bestimmende Element, zweitens bringt er damit weiterhin seine moralischen Vorstellungen, aber auch Vorurteile ins Spiel. Darauf zu bauen, die KI könnte sich aus eigener Motivation heraus zu einer fairen, gerechten oder sogar moralischen Instanz entwickeln, ist der Glaube ans „snake oil“.
Computer sind unschlagbar im Rechnen und in der Mustererkennung, doch nur Menschen können denken, fühlen, Kontexte erfassen und kreativ schöpferisch sein.
Menschen machen Maschinen
Was die KI-Systeme aber durchaus leisten können: Prozesse in Gang zu setzen, die den Menschen dabei helfen, unfaire und ungerechte Strukturen offensichtlich zu machen – in den Lieferketten der Handelsunternehmen. Aber eben auch in einem Bereich wie dem Recruiting, wo die KI fehlende Diversity erkennbar machen kann. „Entscheidend ist dabei ein Verständnis der verschiedenen ‚Superkompetenzen‘ von Mensch und Maschine“, schreiben die Trendforscher*innen vom Zukunftsinstitut in ihrem „Trendausblick 2022“. „Computer sind unschlagbar im Rechnen und in der Mustererkennung, doch nur Menschen können denken, fühlen, Kontexte erfassen und kreativ schöpferisch sein.“ Die eigentliche Zukunftsbestimmung intelligenter Technologien werde deshalb darin bestehen, die Erschließung dieser genuin menschlichen Potenziale zu unterstützen. Kurz: Der Job der Künstlichen Intelligenz sollte es sein, dem denkenden Menschen Aufwind zu geben.
KI in der Lehre
Die Friedrich-Schiller-Universität Jena und die Technische Universität Ilmenau starteten Ende 2021 ein Forschungsprojekt, das es ihren Studierenden und Lehrenden ermöglicht, Kenntnisse und Fähigkeiten über Künstliche Intelligenz zu erlangen. „Angesichts der zunehmenden Durchdringung nahezu aller Bereiche der Gesellschaft mit Künstlicher Intelligenz, werden KI-Angebote nicht nur für MINT-Studiengänge, sondern für das gesamte Studienangebot der beiden Universitäten entwickelt“, heißt es in einer gemeinsamen Pressemitteilung der Hochschulen. Bislang seien solche Verfahren vor allem in der Informatik und in ingenieurtechnischen Fachbereichen entwickelt und eingesetzt, „doch sind Kenntnisse und Fähigkeiten über Künstliche Intelligenz auch in naturwissenschaftlichen und zunehmend in geistes- und sozialwissenschaftlichen Bereichen nützlich und künftig immer notwendiger. Daher werden für Universitätsabsolventen und -absolventinnen KIKompetenzen in Zukunft wichtige Voraussetzung für einen erfolgreichen Karriereeinstieg sein. Und diese sorgen wiederum dafür, dass KI-Kenntnisse verstärkt in Wirtschaft und Gesellschaft transferiert werden“, wird der Ansatz des Pilotprojekts erklärt.
Hanni Rützlers 
Daniel H. Pink führt in seinem New-York-Times-Bestseller „Die Kraft der Reue“, dessen deutsche Übersetzung im Oktober 2022 erschienen ist, vor Augen, wie wichtig Reue für unser persönliches Vorankommen ist. Dabei geht er auf die unterschiedlichen Formen von Reue ein und zeigt anhand neuester psychologischer Erkenntnisse, wie etwas zu bereuen uns dabei helfen kann, künftig bessere Entscheidungen zu treffen. Damit stellt Pink in seinem Buch die häufig unterschätzte Emotion in ein völlig neues, positives Licht und plädiert für einen anderen Umgang mit Reue in unserer Gesellschaft. So kann Reue letztlich dazu beitragen, unserem Leben einen größeren Sinn zu verleihen: in der Gegenwart und in der Zukunft. Daniel H. Pink: Die Kraft der Reue. Wie der Blick zurück uns hilft, nach vorne zu schauen. Allegria 2022. ISBN: 978-3-7934-2449-9. 22,99 Euro.
Johann Lafer liefert mit „Ein Leben für den guten Geschmack“ eine Autobiografie in Rezepten, angefangen in seiner steirischen Heimat, die seine Kochphilosophie bis heute prägt. Er erzählt über seine ersten Kochversuche, die Bedeutung des Essens im Alltag und bei Familienfeiern und präsentiert die Gerichte, die für ihn kindheitsprägend waren. Es folgen alle Stationen – von der Lehre bis zur Eröffnung der Stromburg mit den jeweils prägenden Rezepten – und bietet eine kleine Zeitreise in die 1980er-Jahre und die Nouvelle Cuisine, bis hin zu Lafers heutiger Philosophie der einfachen Küche. Johann Lafer: Ein Leben für den guten Geschmack. Erzählt von Jan Hofer. GU 2022. ISBN 978-3-8338-8282-1. 26 Euro.
Der erfahrene Psychotherapeut Holger Kuntze erklärt in seinem neuen Buch, warum wir persönlichen Krisen nicht hilflos ausgeliefert sind – und warum sie manchmal geradezu sinnvoll sein können. Er gewährt uns mithilfe moderner Verhaltenstherapie sowie neuester Erkenntnisse der Neurowissenschaft und Evolutionsforschung einen Blick hinter die Kulissen unseres eigenen Fühlens und Denkens. Mit kleinen Notfallinterventionen und zwanzig Begriffspaaren, die das Leben leichter machen, öffnet er einen Zugang zu unseren inneren Freiräumen. Konkret und mit Beispielen aus seiner eigenen Praxis benennt er Ressourcen, die uns auf der Basis akzeptanzbasierter Strategien ermöglichen, die Zumutungen des Lebens anzuerkennen und uns mit ihnen auseinanderzusetzen. Holger Kuntze: Das Leben ist einfach, wenn du verstehst, warum es so schwierig ist. Kösel 2021. 18 Euro. 
