Möglichkeiten und Grenzen der Nutzung generativer KI

Professor Dr. Renate Schaub, Foto: RUB Marquard
Professor Dr. Renate Schaub, Foto: RUB Marquard

Von den vielfältigen Einsatzmöglichkeiten generativer KI können für die juristische Arbeit etwa die Formulierung und Überarbeitung von Texten, Recherchen oder die Erschließung großer Datenmengen von Bedeutung sein, künftig möglicherweise auch das Beantworten konkreter Fragen oder Falllösungen. Aber ist ein solcher Einsatz von KI überhaupt problemlos möglich und zulässig? Antworten auf diese Frage gibt Professor Dr. Renate Schaub in diesem Gastbeitrag.

Zur Person

Prof. Dr. Renate Schaub, LL.M. (Univ. Bristol) ist Inhaberin des Lehrstuhls für Bürgerliches Recht, Internationales Privatrecht und Rechtsvergleichung , Handels- und Wirtschaftsrecht an der Juristischen Fakultät der Ruhr-Universität Bochum. Ihre Forschungsschwerpunkte sind Bürgerliches Recht (insbesondere Haftungsrecht, Vertragsrecht), Internationales Privatrecht, Rechtsvergleichung und Wirtschaftsrecht (insbesondere Lauterkeitsrecht, Gewerblicher Rechtsschutz, Urheberrecht). Dabei liegt ein besonderer Fokus auf den Verbindungen zwischen diesen Rechtsgebieten, den internationalen Aspekten des Wirtschaftsrechts sowie auf den Wechselwirkungen der genannten Rechtsgebiete mit Technisierung und Digitalisierung.

Eigentlich sollte dieser Text mit zwei prägnanten Zitaten von ChatGPT und Bard beginnen, in denen beschrieben wird, wie KI juristische Arbeit verändern, ja geradezu revolutionieren kann. Aber da ich nicht genau weiß, wie die Formulierungen zustande gekommen sind, verzichte ich auf die Zitate und bin so gleich mitten im Thema. Neben den Möglichkeiten einer Nutzung generativer KI gilt es nämlich, auch deren Grenzen – wie etwa eine unklare urheberrechtliche Situation – im Blick zu behalten.

Grenzen der Nutzung von KI

Ausdrückliche Vorgaben zur Nutzung von KI bestehen bisher kaum, aber Grenzen der Nutzung von KI können sich aus bestehenden gesetzlichen Regelungen, Verträgen oder Pflichten zum Schutz der Rechtsgüter Dritter ergeben. So muss etwa bei Vorschriften zur eigenständigen Anfertigung von Prüfungsarbeiten ermittelt werden, ob KI genutzt werden darf und ob gegebenenfalls darüber aufzuklären ist. Entsprechendes gilt bei der Erfüllung vertraglicher Leistungspflichten, bei denen zudem Verpflichtungen zur höchstpersönlichen Leistung den Einsatz von KI einschränken können.

Solange der Einsatz von KI noch nicht bei Gesetzgebung und Vertragsgestaltung berücksichtigt ist, besteht hier noch viel Auslegungsspielraum und damit Rechtsunsicherheit. Darüber hinaus ist zu beachten, dass durch die Nutzung von KI keine fremden Rechtsgüter geschädigt werden dürfen. Das kann z. B. beim Einsatz von KI in der Rechtsberatung von Bedeutung sein, wenn eine ungünstige Empfehlung generiert und anschließend weitergegeben wird. Auch die Regeln des Datenschutzrechts sind selbstverständlich bei Eingaben in KI-Systeme zu beachten.

Unklar ist die urheberrechtliche Situation bei KI-generierten Texten: Bei den derzeitigen Systemen ist die Entstehung der Texte vielfach nicht nachvollziehbar und da die Trainingsdaten der KI auch urheberrechtlich geschützte Werke umfassen können, ist es nicht auszuschließen, dass die Ergebnisse auch urheberrechtsverletzende Elemente enthalten.

Die Strategie: Besonnenheit und Zurückhaltung

Bei so vielen offenen Fragen ist die beste Strategie jedenfalls derzeit noch eine zurückhaltende und besonnene Verwendung von KI. Dass technische Systeme und damit auch KI nicht unfehlbar sind, dürfte allgemein bekannt sein – die Ergebnisse können unvollständig oder falsch (manchmal auch von der KI erfunden) sein. Daher ist beim Einsatz von KI zum Generieren von Texten – wenn man sie dafür überhaupt verwenden will und darf – größte Vorsicht geboten, weil die erzielten Ergebnisse nicht zwingend korrekt sein müssen und zudem die Quellen häufig unklar sind. Unerlässlich ist es, sich vorher über die Funktionsweise des genutzten Systems zu informieren und die Ergebnisse zu kontrollieren.

Sinnvoller kann der Einsatz von KI zur Textkorrektur und Stilverbesserung sein. Hier bestehen weniger urheberrechtliche Bedenken, aber die Letztverantwortung für Verständlichkeit und inhaltliche Richtigkeit bleibt auch hier bei den Nutzenden. Bei Recherchen und bei der Verarbeitung großer Datenmengen kann KI sicherlich helfen, aber auch hier muss jedenfalls eine Kontrolle erfolgen. Zudem sollte beim Einsatz generativer KI immer gefragt werden, ob dieser gegenüber anderen (z. B. Prüfenden oder Vertragspartnern) offenzulegen ist. Fazit: KI kann bislang vielleicht an manchen Stellen die Arbeit erleichtern, aber eigenständiges Denken und Entscheiden nicht ersetzen.