Die KI hat es gesagt

Im Verfahren Mata gegen Avianca vor einem New Yorker Bundesgericht reichten die Anwälte des Klägers 2023 einen Schriftsatz ein, der mehrere Gerichtsentscheidungen zur Stützung ihrer Rechtsauffassung zitierte. Bei der Prüfung durch die Gegenseite und später durch das Gericht stellte sich heraus, dass mehrere dieser Entscheidungen schlicht nicht existierten. Einer der Anwälte hatte mit ChatGPT recherchiert. Das Programm hatte die vermeintlichen Urteile samt überzeugend klingender Zitate erfunden, ohne dass es jemandem in der Kanzlei aufgefallen war.

Das Gericht verhängte Sanktionen und stellte klar, dass die Nutzung eines KI-Werkzeugs die anwaltliche Prüfungspflicht in keiner Weise mindert. Wer einen Schriftsatz unterschreibt, haftet für dessen Inhalt, gleich mit welchem Hilfsmittel er entstanden ist.

Der Fall gehört inzwischen zu den meistzitierten Beispielen für den unreflektierten Einsatz generativer KI, weil die Fehlerform so leicht nachvollziehbar ist. Ein Sprachmodell erzeugt eine sprachlich überzeugende und formal korrekt wirkende Antwort, die inhaltlich nicht zutreffen muss. Je vertrauter jemand mit der Materie ist, desto eher fällt ihm eine solche Fehlinformation auf. Gerade bei Aufgaben, die zur Entlastung delegiert werden, weil die Zeit für eine eigene Recherche fehlt, sinkt diese Wahrscheinlichkeit, während das Vertrauen in das Werkzeug wächst.

Wer eine Recherche an ein Werkzeug delegiert, gibt die Verantwortung für ihr Ergebnis damit nicht ab. Sie bleibt bei der Person, die das Ergebnis verwendet und mit ihrer Unterschrift oder ihrem Namen dafür einsteht, ob das Werkzeug nun ein Sprachmodell, ein Praktikant oder eine externe Rechercheagentur war.

In rechtlich oder fachlich anspruchsvollen Bereichen verkürzt ein KI-Werkzeug die eigene Prüfungspflicht in keinem Fall. Die Überzeugungskraft, mit der ein Sprachmodell falsche Inhalte präsentieren kann, verlangt im Gegenteil eine besonders sorgfältige und im Zweifel unabhängige Prüfung zentraler Fakten und Quellen, bevor ein Ergebnis nach außen geht. Wer darauf verzichtet, trägt die volle Verantwortung für einen Fehler, den formal betrachtet die Maschine gemacht hat.

Wer Arbeit an ein KI-Werkzeug delegiert, behält die Verantwortung für das Ergebnis. Gerade die Überzeugungskraft generierter Texte verlangt eine besonders sorgfältige Prüfung von Fakten und Quellen.

Mehr solcher Fälle gibt es hier!