Wer bei der KI an eine Superintelligenz denkt, die das Beste aus Menschen und Maschine kombiniert, sollte sich auf eine Enttäuschung gefasst machen. Da könne man ja auch versuchen, Leitern miteinander zu verbinden, bis man den Mond erreicht, wie ein Informatikprofessor aus Princeton vergleicht. Statt auf eine moralischmenschliche KI zu bauen, sollten wir Systeme entwickeln, die Probleme, Chancen und Ungerechtigkeiten offenlegen. Die Dinge dann zum Besseren zu verändern? Ist und bleibt die Aufgabe des denkenden Menschen. Ein Essay von André Boße
Die US-Digitalexpertin und Autorin Frederike Kaltheuner hat eine Anthologie über die Künstliche Intelligenz geschrieben, die den für diese Zukunftstechnik wenig schmeichelhaften Titel „Fake AI“ trägt. Für das im Netz frei zugängliche Buch (zu finden unter: fakeaibook.com) haben diverse Autor*innen über die KI geschrieben. Zum Einstieg hat Frederike Kaltheuner den Informatik-Professor Arvind Narayanan interviewt, Hochschullehrer in Princeton, laut Ranking weltweit die elfwichtigste Hochschule im Bereich Computer Science. Wer hier lehrt, der beherrscht sein Fach. Im Interview sagt der Princeton-Professor einen bemerkenswerten Satz, im englischen Original lautet er: „Much of what is sold commercially today as ‘AI’ is what I call ‘snake oil’.“ Auf Deutsch: Vieles von dem, was heute unter dem Label KI verkauft werde, bezeichne er als „Schlangenöl“.
Gemeint ist öliges Zeug, das zur Zeit des Wilden Westens von vermeintlichen Wunderheilern bei ihren „Medicine Shows“ verscherbelt wurde, gekoppelt an das Versprechen, diese Tinkturen würden gegen diverse Leiden helfen.
Gemeint ist öliges Zeug, das zur Zeit des Wilden Westens von vermeintlichen Wunderheilern bei ihren „Medicine Shows“ verscherbelt wurde, gekoppelt an das Versprechen, diese Tinkturen würden gegen diverse Leiden helfen. Der Begriff hat es viele Jahre später von der Prärie in die Welt der Software geschafft: Als „snake oil“ werden IT-Produkte bezeichnet, die Bemerkenswertes versprechen, davon jedoch fast nichts halten, zum Beispiel in der Praxis nutzlose Antiviren-, Festplattenaufräum- oder Arbeitsspeicherverdoppelungsprogramme. Arvind Narayanan trifft also ein hartes Urteil über viele der Versprechen der KI, macht aber eine wichtige Differenzierung: „Some are not snake oil.“ Einige Künstliche Intelligenzen wirkten, andere nicht. Wo also liegt der Unterschied?
Superintelligenz? Schlangenöl!
Seine Kritik fokussiert Arvind Narayanan an eine „Artificial General Intelligence“ (AGI), eine Allgemeine Künstliche Intelligenz, die in der Lage sei, nahezu jede intellektuelle Aufgabe zu erlernen. Eine solche Superintelligenz würde also das Problembewusstsein eines Menschen mit der Rechengeschwindigkeit von Supercomputern kombinieren; sie arbeite damit nicht mehr aufgabenspezifisch, sondern generell. Umfragen zeigten, sagt Narayanan, dass viele Menschen glaubten, diese Form von AGI stehe kurz vor der Realisation – womit ein Wendepunkt der menschlichen Zivilisation kurz bevorstehe. „I don’t think that’s true at all“, hält Narayanan dagegen. Er beschreibt die Vorstellung, die aktuellen Fortschritte im Bereich der Künstlichen Intelligenz könnten zu einer solchen „Artificial General Intelligence“ führen, mit dem Versuch, eine immer längere Leiter zu bauen, um damit den Mond zu erreichen. Kurz: die Vorstellung einer AGI sei „absurd.“
„Maschinen wie ich“
Ian McEwan imaginiert in diesem kühnen Roman die Vergangenheit neu: In einer Welt, die ein wenig anders ist als die unsere, stellt ein Roboter ein junges Liebespaar vor ein gefährliches Dilemma. London, 1982: Großbritannien hat gerade den Falkland-Krieg verloren, und dank der Forschung von Alan Turing gibt es Anfang der achtziger Jahre schon Internet, Handys und selbstfahrende Autos – und die ersten täuschend echten künstlichen Menschen. Charlie, ein sympathischer Lebenskünstler Anfang 30, ist seit seiner Kindheit von Künstlicher Intelligenz fasziniert, Alan Turing ist sein Idol. Auch wenn es ihn ein kleines Vermögen kostet, kauft er sich sofort einen der ersten Androiden, die auf den Markt kommen. Charlie wünscht sich einen Freund, einen Helfer, einen interessanten Gesprächspartner. Er erhält viel mehr als das: einen Rivalen um die Liebe der schönen Miranda und eine moralische Herausforderung, die ihn bis zum Äußersten reizt. Ian McEwan: Maschinen wie ich. Diogenes 2019. ISBN 978-3-257-60958-5. 11,99 Euro.
Bei den Bereichen, in denen die Menschen laut Arvind Narayanan besonders anfällig für „Schlangenöl-KI“ seien, steche eines besonders hervor: das Recruiting. Dass man hier auf Künstliche Intelligenz hoffe, liege daran, dass die Not hier besonders groß sei – weil halt niemand vorhersagen könne, ob eine neu eingestellte Person tatsächlich im Job überzeugen werde oder nicht. Recruiting ist ein Spiel im Nebel – umso begieriger greife man zum „Snake Oil“, in der Hoffnung, dass die KI diesen Nebel lichten möge. Was sie natürlich nicht könne: Es gebe, sagt Arvind Narayanan im Interview im Buch „Fake AI“, mittlerweile eine Reihe wissenschaftlicher Studien, die gründlich der Frage nachgegangen seien, wie gut KI-Systeme darin sind, soziale Folgen von Entscheidungen abzuschätzen, zum Beispiel der, wen man für einen neuen Job einstellt und wen nicht. Das Ergebnis: „Die KI schneidet gerade so besser als der Zufall ab.“
Recruiting mithilfe von KI
Eine Meldung zu den Human Ressource-Trends für das Jahr 2022 des Talent-Lösungs-Anbieters Robert Half scheint dieser Ansicht zu widersprechen. KI werde „bei der Suche nach geeigneten Bewerber*innen eine unterstützende Rolle spielen“, wird Sven Hennige, Senior Managing Director Central Europe bei Robert Half, in einer Pressemeldung zu HR-Trends im Jahr 2022 zitiert. Basis der Analyse ist die Befragung von 300 Manager*innen mit Personalverantwortung in kleinen, mittelgroßen und großen deutschen Unternehmen. Dabei zeigen sich zwei Einsatzgebiete der Systeme: Zum einen setzen Personalabteilungen sie ein, um Termine für Bewerbungsgespräche zu koordinieren oder formale Anforderungen in den Unterlagen prüfen, um so den Kreis der Kandidat*innen zu definieren. Das sind alles Routinearbeiten im Vorfeld, hier übernimmt die Künstliche Intelligenz eine Reihe von Prozessen, die den Menschen viel Zeit kosten.
Magazin zu KI-Gestaltungen und -Erfahrungen
„TATuP – Zeitschrift für Technikfolgenabschätzung in Theorie und Praxis“ nennt sich ein Open Access-Zeitschriftenprojekt des Instituts für Technikfolgenabschätzung und Systemanalyse (ITAS). Es erscheint beim Oekom-Verlag, der PDF-Zugriff ist gratis. Die Ausgabe 30, erschienen Ende 2021, widmet sich dem Thema „KI-Systeme gestalten und erfahren“ – ein Titel, der impliziert, dass es Menschen sind, die bei der Entwicklung der KI-Systeme die Gestaltungsrolle übernehmen. In ihren Texten betrachten die Autor*innen u.a. die juristischen oder demokratietheoretischen Rahmenbedingungen von KI sowie die Frage, wie sich solche Systeme in Hinblick auf Akzeptanz und Vertrauen mitarbeiterfreundlich implementieren lassen.
Der positive Effekt: Die HR-Spezialisten können sich auf ihre wahre Arbeit fokussieren. Kein „snake oil“, sondern echte Hilfe. Doch die Befragten nannten noch ein weiteres Einsatzfeld für die KI im Bereich des Recruiting: Sie könne auch dafür genutzt werden, auf Basis einer passenden Datenbasis zu entscheiden, ob jemand anhand der fachlichen Skills für den Job geeignet sei – und zwar unabhängig von den sonstigen Merkmalen dieser Person. „Die Entscheidung richtet sich dann zum Beispiel nicht danach, ob es sich bei dem Bewerber um einen Mann oder eine Frau handelt“, so Hennige in der Pressemeldung. Seine Schlussfolgerung: „KI soll Bewerbungsverfahren bestenfalls auch fairer machen. Denn: Menschen sind nicht immer vorurteilsfrei.“ Das stimmt. Der Haken an der Sache ist nur: Das stimmt dann aber auch für die Künstliche Intelligenz. Schließlich wird sie von den vorurteilsbehafteten Menschen gestaltet.
KI in der Industrie: Muster erkennen
Ein Blick in die industrielle Praxis zeigt, wo Künstliche Intelligenz aktuell in den großen deutschen Unternehmen zum Einsatz kommt. Siemens vermeldet in einem Pressetext, die KI gestalte die Produktion in der Industrie „effizienter, flexibler und zuverlässiger“. Konkrete Anwendungen seien „Spracherkennung zum Bearbeiten einfacher Aufträge, das Erfassen von Umgebungen mittels Kameras, Laser- oder Röntgenstrahlen bis hin zu virtuellen persönlichen Assistenten in der Logistik“, heißt es in der Meldung zu den industriellen Anwendungsfeldern der KI. Ihre Stärke spielten die Systeme dann aus, wenn es um die Analyse der digitalen Informationen gehe, die im Zuge der Industrie 4.0 anfielen: „In den Datenmengen einer Fabrik können mittels intelligenter Softwarelösungen Trends und Muster erkannt werden, die dabei helfen, effizienter oder energiesparender zu fertigen“, heißt es bei Siemens. „Mit steigender Vernetzung kann die KI-Software lernen, auch ‚zwischen den Zeilen‘ zu lesen. Dadurch lassen sich viele komplexe Zusammenhänge in Systemen aufdecken, die der Mensch noch nicht oder nicht mehr überblicken kann.“
Bosch stellt in einer Story auf der Konzernhomepage die KI-Perspektiven in seinen weltweit 240 Werken vor, in denen vernetzte Produktionssysteme im Einsatz sind. Hier entstehen „KI-basierte Regelkreise, die sich selbst regulieren oder optimieren und ganz nebenbei auch noch eine Liste möglicher Problemursachen bereitstellen“, heißt es. Die Vorteile sieht Bosch darin, dass diese Modelle in der Lage seien, „Fehler zu erkennen und zu vermeiden, die Menschen oder herkömmliche Systeme nur schwer wahrnehmen können.“ Die Künstliche Intelligenz werde den Unternehmen darüber hinaus ermöglichen, „ihre Produkte ohne aufwändigere Prozesse deutlich stärker zu individualisieren“ sowie dazu beizutragen, „Roboter in bisher undenkbaren Bereichen zu etablieren“, indem die KI hier dafür sorge, dass sich der Lernaufwand für Roboter reduziere, deren „Sehvermögen“ verbessere und ein „Transferlernen“ zwischen Robotern ermögliche.
Auf dem Weg zur nachhaltigen Lieferkette
Die Fallbeispiele aus der industriellen Praxis zeigen: Zum Einsatz kommt Künstliche Intelligenz in den Unternehmen vor allem dort, wo die Menge und Tiefe an Informationen das menschliche Gehirn komplett überfordert.
Bei Audi setzt man laut Pressmeldung aus dem Sommer 2021 darauf, KI-Methoden für einen besonders komplexen Bereich einzusetzen: den Einblick in die Lieferkette in der Automobilproduktion. Gerade diese Komplexität sorge dafür, dass es wichtig sei, „mögliche Risiken zu verstehen und Zusammenhänge frühzeitig herzustellen“, heißt es in der Pressemeldung. Im Herbst 2020 startete Audi ein Pilotprojekt: In weltweit rund 150 Ländern analysieren intelligente Algorithmen Nachrichten über Lieferant*innen aus online zugänglichen öffentlichen Medien und sozialen Netzwerken. „Geprüft werden Nachhaltigkeitskriterien wie Umweltverschmutzung, Menschenrechtsverstöße und Korruption. Besteht der Verdacht auf potenzielle Nachhaltigkeitsverstöße, schlägt die Künstliche Intelligenz Alarm“, heißt es in der Pressemeldung. Entwickelt wurde die dafür eingesetzte KI vom österreichischen Start-up Prewave. „Machine Learning und automatisierte Sprachverarbeitung machen so möglich, was manuell ein Ding der Unmöglichkeit wäre: kontinuierliche Risikoabschätzungen über die gesamte Lieferkette hinweg, mit denen die Beschaffung dann proaktiv auf die Lieferant*innen zugehen kann“, wird Harald Nitschinger, CEO von Prewave, in der Audi-Pressemeldung zitiert.
Wie wirken sich KI-Technologien auf die Wissenschaften aus?
Dieser Frage widmet sich jetzt ein deutsch-österreichisches Forschungsteam. Die VolkswagenStiftung fördert das neue Projekt im Rahmen der Initiative „Künstliche Intelligenz“. Bislang hat keine interdisziplinäre und vergleichende Studie den Einsatz von maschinellen Lernverfahren in verschiedenen Wissenschaftsfeldern untersucht und dabei sowohl informatische, historische wie auch ethnographische Perspektiven berücksichtigt, so die beteiligten Wissenschaftlerinnen und Wissenschaftler der Universität Bonn, der Universität Wien und des Karlsruher Instituts für Technologie. Das Team analysiert konkrete „Fokus-Projekte“ in unterschiedlichen Disziplinen, die das Spektrum von Geistes-, Sozial- und Naturwissenschaften abdecken. Es soll untersucht werden, wie mit KI-Verfahren in unterschiedlichen Disziplinen geforscht wird. Die Forschenden haben dabei die Potenziale, aber auch die Grenzen, Risiken und Ambivalenzen von KI-basierten Methoden im Blick.
Die Fallbeispiele aus der industriellen Praxis zeigen: Zum Einsatz kommt Künstliche Intelligenz in den Unternehmen vor allem dort, wo die Menge und Tiefe an Informationen das menschliche Gehirn komplett überfordert. Welche dieser Daten relevant sind und welche nicht – diese Regeln gibt weiterhin der Mensch vor. Das muss er auch, denn eine KI weiß von sich aus nichts über Menschenrechte oder das Fehlverhalten der Korruption. Daraus folgen zwei Dinge: Erstens bleibt der Mensch das bestimmende Element, zweitens bringt er damit weiterhin seine moralischen Vorstellungen, aber auch Vorurteile ins Spiel. Darauf zu bauen, die KI könnte sich aus eigener Motivation heraus zu einer fairen, gerechten oder sogar moralischen Instanz entwickeln, ist der Glaube ans „snake oil“.
Menschen machen Maschinen
Was die KI-Systeme aber durchaus leisten können: Prozesse in Gang zu setzen, die den Menschen dabei helfen, unfaire und ungerechte Strukturen offensichtlich zu machen. Und zwar auch in einem Bereich wie dem Recruiting, wo die KI fehlende Diversity erkennbar machen kann. „Entscheidend ist dabei ein Verständnis der verschiedenen ‚Superkompetenzen‘ von Mensch und Maschine“, schreiben die Trendforscher*innen vom Zukunftsinstitut in ihrem „Trendausblick 2022“. „Computer sind unschlagbar im Rechnen und in der Mustererkennung, doch nur Menschen können denken, fühlen, Kontexte erfassen und kreativ schöpferisch sein.“ Die eigentliche Zukunftsbestimmung intelligenter Technologien werde deshalb darin bestehen, die Erschließung dieser genuin menschlichen Potenziale zu unterstützen. Kurz: Der Job der Künstlichen Intelligenz sollte es sein, dem denkenden Menschen Aufwind zu geben.
Insekten mögen klein sein, aber sie verrichten die großen Arbeiten auf unserer Erde. Sie entsorgen Abfälle, bestäuben Pflanzen, ernähren unzählige Tierarten und bereichern die Welt mit ihrer vielgestaltigen Schönheit. Dennoch wird ihr Beitrag kaum wahrgenommen und Tag für Tag sterben hunderte Arten aus. Was bedeutet ihr Verschwinden für uns Menschen? Dave Goulson zeichnet das Bild vom Aufstieg und Niedergang der Insekten. Wie kein anderer vermag er vorwegzunehmen, was genau passieren wird, sollte das Insektensterben nicht gestoppt werden. Ein Leben ohne Himbeeren und Schokolade ist sicherlich vorstellbar, globale Hungersnöte sind jedoch die ernste Folge des Insektensterbens. Wer „Stumme Erde“ liest, wird Insekten mit anderen Augen sehen lernen und handeln. Dave Goulson: Stumme Erde. Hanser 2022. ISBN 978-3-446-27267-5. 25 Euro
Medizin so erklärt, dass es jeder versteht – das ist das Motto des bekannten NDR-Fernsehmediziners Dr. Johannes Wimmer, dem er auch mit seinem neuen Ratgeber treu bleibt. Dieses Mal geht er drei großen Themen auf die Spur: dem wichtigen Thema „gesunder Schlaf“, dem „Darkroom“ Bauch sowie unserem nicht erst durch Corona in den Fokus geratenen Immunsystem. Woher kommen unsere Schlafprobleme? Wieso sind chronische Erkrankungen so ein großes Thema? Wie kann das Immunsystem auf gesunde Weise geboostert werden? Er erklärt und veranschaulicht auf unterhaltsame Art, wie Krankheiten entstehen, wie man sich dagegen schützt und was man tun kann, wenn man darunter leidet. Dr. med. Johannes Wimmer: Die 3 großen Fitmacher. Warum Darmgesundheit, gesunder Schlaf und ein starkes Immunsystem überlebenswichtig sind. ISBN 978-3-8338-7873-2. 14,99 Euro.
Buchtipp
„Weltbeste Bildung: Wie wir unsere digitale Zukunft sichern“ Mitte September erscheint im Campus- Verlag das neue Buch von Yasmin Weiß, in dem sie sich der Frage widmet, wie es gelingen kann, in einer immer stärker digitalisierten Welt alle Menschen mitzunehmen und für die Herausforderungen der Gegenwart und der Zukunft fit zu machen. Dabei macht sie deutlich, warum dafür lebenslanges Lernen notwendig ist und wie sich dieses organisieren lässt. Den Schwerpunkt setzt sie dabei auf die digitale Bildung sowie auf die Stärkung jener Eigenschaften, die den Menschen nachhaltig von immer intelligenter werdenden Maschinen unterscheiden. Als Autorin liegt es ihr fern, allein die Politik in die Pflicht zu nehmen – vielmehr sieht sie die Verantwortung bei jedem Einzelnen sowie bei den Unternehmen. Yasmin Weiß: Weltbeste Bildung: Wie wir unsere digitale Zukunft sichern. Campus-Verlag September 2022, 28 Euro (ab September 2022)
Sibylle Bergs neuer Roman setzt in der neoliberalen Absurdität an, in der der Einzelne machtlos scheint. Der Kapitalismus ist alternativlos geworden. Das beste aller Systeme hat wenigen zu absurdem Reichtum verholfen und sehr vielen ein menschenwürdiges Dasein genommen. Die Krise ist der Normalzustand, Ausbeutung heißt nicht mehr „Kolonialismus“, sondern „Förderung strukturschwacher Länder“. Inflation, Seuchen, Kriege, Diktatoren, Naturkatastrophen, Müllberge. Und die Menschheit vereint nur noch in ihrer Todessehnsucht. Die Lage scheint ausweglos. Aber in einem abhörsicheren Container brennt noch Licht. Fünf Hacker programmieren die Weltrettung. Sibylle Berg: RCE – #RemoteCodeExecution. Kiepenheuer&Witsch 2022, 26 Euro
Der aktuelle Roman „Automaton“ von Berit Glanz wird als visionärer Gegenwartsroman gepriesen, der zwischen der Klaustrophobie der eigenen vier Wände und den Hanffeldern Kaliforniens spielt und von neuen Ausbeutungsverhältnissen und den Chancen virtueller Solidarität erzählt. Es geht um die junge Mutter Tiff, die sich mit schlecht bezahlten Online-Jobs für die Plattform Automa durchschlägt, da sie wegen einer Angststörung ihre Wohnung kaum verlassen kann. Ihre zermürbende Akkordarbeit wird als angebliche Überwachungsleistung einer KI teuer verkauft, weshalb sie zur Verschwiegenheit verpflichtet ist. Doch dann wird sie am Bildschirm Zeugin eines Verbrechens. Berit Glanz: Automaton. Berlin Verlag 2022, 22 Euro.
Vom Algorithmus bis zum Sensor umfasst die Digitalisierung eine Vielfalt technologischer Innovationen. Ebenso facettenreich sind die Dimensionen, in denen sie die Gesellschaft transformiert und gleichzeitig von ihr geprägt wird. Die Auswirkungen auf die Kommunikation im öffentlichen Raum, auf die Wissenschaft und Landwirtschaft sowie die Wechselwirkungen mit dem Recht, der Wirtschaft und der Ökologie – die Beitragenden des Bandes gehen diesen und anderen Aspekten von Digitalisierung aus verschiedenen theoretischen Blickwinkeln nach. Damit eröffnen sie Perspektiven, die Digitalisierung als sozio-technischen Wandel verstehen und erklären lassen. Katharina Block, Anne Deremetz, Anna Henkel, Malte Rehbein (Hg.): 10 Minuten Soziologie: Digitalisierung. Transcript 2022, 18 Euro.
Mitten in der Urlaubszeit bricht in ganz Europa das Internet zusammen. Flugzeuge können nicht mehr landen, Ärzte nicht mehr operieren, der Verkehr versinkt im Chaos. Bald sind alle Kommunikationswege gekappt. Ganz Europa befindet sich im Ausnahmezustand, die Menschen geraten in Panik, die Versorgung bricht zusammen. BND-Ermittler Nelson Carius vermutet ein hochkomplexes Computervirus hinter den Internetausfällen. Eine Spur führt ihn ausgerechnet zum IT-Experten Daniel Faber aus München, einem unbescholtenen Familienvater. Während das ganze Land gegen das Chaos kämpft, muss Daniel nicht nur seine Familie retten, sondern auch seine Unschuld beweisen. Wolf Harlander: Systemfehler. Rowohlt 2021, 12 Euro
Deutschland investiert Milliarden in prestigeträchtige Leuchtturmprojekte und Pseudo- Veränderungen – und ist trotzdem digital weit abgeschlagen. Das liegt auch daran, dass Digitalisierung nicht als Transformation verstanden wird: Es geht eben nicht darum, Gegenstände oder Strukturen einfach ins Digitale zu überführen. Transformationsprozesse müssen die Gegenstände und Strukturen selbst hinterfragen und wandlungsfähig sein. Und selbst da, wo man dies erkannt hat, verhindern Missverständnisse die Entwicklung. Digitale Transformation ist ein komplexer Vorgang, der nicht dann abrupt endet, wenn irgendein neuer Dienst eingeführt wurde. Dieser Essay stellt heraus, dass isolierte Blicke auf Gesellschaft oder Technik nicht zielführend sind, und entlarvt dabei stets bemühte Buzzwords und die wichtigsten Denkfehler. Sascha Friesike, Johanna Sprondel: Träge Transformation. Welche Denkfehler den digitalen Wandel blockieren. Reclam 2022, 6 Euro.
Bevor sie sich auf die U-Bahngleise legt, kündigt Mette, 15, in TikTok-Videos ihr Vorhaben an. Niemand reagiert – gerettet wird sie trotzdem. Der Suizidversuch verwirrt ihr privilegiertes Umfeld: Bislang hat sie professionell die Leistung des hochbegabten Kindes abgeliefert – Mettes Strategie, um unter dem Radar einer Welt zu bleiben, deren Verlogenheit sie frustriert. Dann lernt sie Jo kennen, zehn Jahre älter, brillant und voller Wut, ein Verbündeter. Als Anti-Influencer hat er sich ein Following aufgebaut und rekrutiert Mette für den Kampf gegen den Mainstream. Ein Spiel beginnt, dessen Regeln sie nicht durchschaut. Mit gleißender Klarheit und schneidendem Witz zeigt Julia von Lucadou einen Ausschnitt unserer Gegenwart, in der die digitale und reale Wirklichkeit sich komplett durchdringen. Julia von Lucadou: Tick Tack. Hanser 2022, 23 Euro.
