Generative KI bietet enormes Potenzial. Jedoch sind nicht alle Antworten und Lösungen, die ChatGPT und Co. liefern, korrekt. Wir haben Dr. Aljoscha Burchardt, Experte in Sprachtechnologie und künstlicher Intelligenz, gebeten, uns die Ursachen für das „Halluzinieren“ von KI und mögliche Lösungen zu erklären. Die Fragen stellte Dr. Marion Steinbach.
Zur Person
Dr. Aljoscha Burchardt forscht als Principal Researcher am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) in Berlin. Gemeinsam mit der Journalistin Nadia Kailouli geht er in dem rbb-Podcast „KI und jetzt?“ der Frage nach, was KI mit den Menschen macht und was wir mit ihr machen können. Er ist u. a. Senior Research Fellow des Weizenbaum-Institutes für die vernetzte Gesellschaft, stellvertretender Vorsitzender der Berliner Wissenschaftlichen Gesellschaft sowie Mitglied im Fachausschuss Kommunikation und Information der UNESCO. 2018-2020 war er sachverständiges Mitglied der Enquete-Kommission „Künstliche Intelligenz“ des Deutschen Bundestages.
Wie kommt es zu dem, was als Halluzinieren von KI bezeichnet wird?
Erst einmal gefällt mir die Formulierung „bezeichnet wird“. Tatsächlich finde ich den Begriff Halluzination trotz seiner Einprägsamkeit irreführend und letztlich ist er auch stigmatisierend. Die Systeme haben kein Bewusstsein und entsprechend auch keine Wahnvorstellungen. Wenn von KI generierte Texte Aussagen oder Fakten enthalten, die nicht stimmen, spricht man von Halluzination. Dazu kommt es, weil die Systeme im Kern einfach immer nur das nächste Wort vorhersagen, bis der gewünschte Text da steht. Das ist reine Statistik, die Wortfolgen klingen total plausibel und häufig stimmt auch, was da steht. Aber eine Garantie gibt es nicht, die Systeme sind keine Orakel oder Wahrheitsmaschinen.
Woran erkennt man, dass die KI „halluziniert“?
Wie gesagt, es geht hier gar nicht um die KI, es geht einfach nur darum, ob der Output stimmt. Ob zum Beispiel generierte Publikationsangaben und Links existieren, ob genannte Fakten stimmen oder die Aussagen wahr sind. Das prüft man genauso, als ob sie von einem Menschen kommen, dessen Fähigkeiten wir vielleicht nicht kennen. Wenn meine kleine Tochter etwas Falsches sagt, spreche ich übrigens auch nicht von Halluzinationen.
In welchen Bereichen kann das heikel sein?
Kontexte, in denen Fehlinformationen und Unwahrheiten heikel sein können, kann man sich beliebig ausdenken. Ein Beispiel sind sicherlich die anstehenden Wahlen, bei denen Leute auf die Idee kommen könnten, sich von einem Chatbot beraten zu lassen oder nach den Positionen von bestimmten Politikern zu bestimmten Themen zu fragen.
Was bedeutet das für die User?
Sie müssen auch verstehen, dass generative KI-Systeme keine Suchmaschinen sind. So bequem es scheint, sich auf den mundgerechten Output der Systeme zu verlassen, man sollte nur Dinge anfragen, die man überprüfen kann.
Mittlerweile gibt es aber doch KI, die Quellen angibt. Dann ist der User doch auf der sicheren Seite, oder nicht?
Das macht es sicher leichter, die Ergebnisse im Zweifelsfall zu überprüfen. Allerdings sind Menschen ja auch gerne bequem und das überprüfen ist natürlich wieder mehr Aufwand. Bisher habe ich noch kein Gefühl dafür, welche Aussagen man überhaupt entsprechend belegen kann. Einfache Fakten und Wahrheiten oder (abgewandelte) Zitate sicher. Aber was ist mit freieren Texten, die sich von den Trainingstexten ablösen?
Wie kann die IT das Problem lösen?
Man kann Systeme für bestimmte Aufgaben anpassen und optimieren, man kann auch hybride Systeme bauen, die explizites Wissen mit statistischer Power kombinieren, da wird noch einiges kommen.
Was empfehlen Sie den Usern, bis das Problem gelöst ist?
Ob es theoretisch überhaupt gelöst werden kann, sei mal dahingestellt. In jedem Fall ist es wichtig, sich zu überlegen, welche Aufgaben man an die Technologie abgeben möchte und wie die Ergebnisse geprüft werden (immer/ stichpunktartig/teilautomatisch etc.). In Summe sollte sie uns Arbeit abnehmen, unsere Fähigkeiten erweitern und die Arbeit sollte mindestens genauso viel Spaß machen wie ohne KI. Dann haben wir gewonnen.
Alle Folgen des Podcasts „KI – und jetzt? Wie wir Künstliche Intelligenz leben wollen“, eine Co-Produktion von rbb und DFKI, sind in der ARD Audiothek App verfügbar und überall dort, wo es Podcasts gibt.







Dr. Tawia Odoi ist Experte für KI-Implementierungen in Unternehmen. In seinem Buch erklärt er verständlich, was sich hinter der Technologie verbirgt und welche immensen Vorteile sie gegenüber herkömmlicher Software bietet. Damit mehr Menschen KI verstehen und bereit sind, sie anzuwenden zeigt er, welche transformative Macht der KI innewohnt und wie sie gewinnbringend integriert werden kann. Tawia Odoi. KI Exzellenz. Erfolgsfaktoren im Management jenseits des Hypes. 210 Seiten. Haufe-Verlag 2024. 29,99 €.
Er war Jurist, Wegbereiter der europäischen Moderne, Autor von düsteren, vieldeutigen Parabeln, die Vorbild waren für das Adjektiv kafkaesk, mit dem auf unergründliche Weise bedrohliche, alptraumartige Situationen umschrieben werden. Zu seinen bekanntesten Werken gehören „Der Prozess“, „Die Verwandlung“, „Das Urteil“ und „Das Schloss“. Zu seinem runden Geburtstag gab und gibt es Theateraufführungen, Lesungen, Ausstellungen und Konzerte, eine Miniserie in der ARD, einen Kinofilm, Vorträge, Biografien und die Neuauflage „Franz Kafka. Die Erzählungen“ im Fischer-Verlag. Alle Termine und Informationen unter:
Oft braucht es gar nicht viel, damit die Arbeit Freude macht. Jonas Höhn zeigt, worauf es ankommt: Flexibilität, Human Relations, Human Skills und Eigenverantwortung. Anhand von zahlreichen Beispielen zeigt er, wie eine moderne Unternehmenskultur gelingen kann. Jonas Höhn. Arbeitslust statt Frust. Gemeinsam zu mehr Wertschätzung, Verbundenheit und Produktivität. 232 Seiten. Gabal-Verlag 2024. 29,90 €.
Wir wünschen uns eine gesicherte Zukunft, strampeln dafür im Hamsterrad. Wir glauben: Wer sich anstrengt, kommt ans Ziel. Aber stimmt das noch? Erfolg und Leistung haben sich heute voneinander entkoppelt. Nicht selten entscheidet die Herkunft, eine Erbschaft oder der Zufall über den eigenen Platz in der Gesellschaft. Warum aber klammern wir uns an Versprechen, die sich immer öfter als leer erweisen? Bernd Kramer sammelt überraschende Einsichten aus Soziologie, Psychologie und Philosophie, die gehörig am Erfolgskult unserer Gegenwart rütteln. Bernd Kramer. Erfolg – ein moderner Selbstbetrug. 224 Seiten. Kösel 2024. 18,00 €.
Alle reden vom Krieg, vom Frieden reden zu wenige, meint Heribert Prantl, Jurist, Autor und Kolumnist der Süddeutschen Zeitung. In seinem neuen Buch begründet er, warum es eine neue Friedensbewegung und eine neue Entspannungspolitik braucht. Heribert Prantl. Den Frieden gewinnen. 240 Seiten. Heyne 2024. 20,00 €.
