KI-Widersprüche gegen Behörden: Missbrauch oder längst überfällige Waffengleichheit?
Die Meldung sorgt derzeit für Diskussionen: Bürgergeld-Empfänger nutzen zunehmend künstliche Intelligenz, um Widersprüche gegen Bescheide zu formulieren. Jobcenter berichten von umfangreichen Schreiben mit zahlreichen rechtlichen Argumentationen, die anschließend von Mitarbeitenden geprüft werden müssen. Die Reaktionen darauf fallen unterschiedlich aus, während einige darin vor allem eine neue Belastung für die Verwaltung sehen, sprechen andere von Missbrauch. In sozialen Netzwerken wird argumentiert, Bürger würden Behörden mit massenhaft KI-generierten Schreiben überfordern und künstliche Intelligenz nutzen, um Verwaltungsverfahren auszureizen. Die entscheidende Frage ist nicht nur, was KI mit Behörden macht, sondern auch, warum Bürger diese Werkzeuge überhaupt nutzen.
Wenn Bürger plötzlich neue Möglichkeiten haben
Zunächst einmal tun Menschen genau das, was sie in einem Rechtsstaat tun dürfen, sie versuchen schlicht und ergreifend, ihre Rechte wahrzunehmen. Bislang hing dabei stark von zwei Faktoren ab, wie gut jemand seine Rechte gegenüber dem Staat durchsetzen konnte. Zum einen Geld (kann ich mir Beratung leisten) und zum anderen Bildung (kann ich einen Bescheid überhaupt selbst verstehen und beantworten). Beides sollte eigentlich nicht darüber entscheiden, ob ein Antrag durchgeht oder ein Widerspruch Erfolg hat. Ein Rechtsstaat, der das faktisch zulässt, ist kein neutraler Vermittler, sondern begünstigt strukturell diejenigen, die ohnehin schon über Ressourcen verfügen.
Heute kann ein Bürger einen Bescheid hochladen und sich innerhalb weniger Sekunden erklären lassen, was darin steht, welche Fragen sich stellen und welche Möglichkeiten bestehen. Das macht aus niemandem einen Juristen, und eine KI ersetzt weder Rechtsberatung noch behördliche Prüfung. Aber sie senkt eine Hürde, die vorher oft am Anfang stand, nämlich die Schwierigkeit, überhaupt zu verstehen, was eine Behörde entschieden hat.
Das Problem beginnt oft vor dem Widerspruch
Die aktuelle Diskussion konzentriert sich stark auf den Moment des Widerspruchs, dabei beginnt die eigentliche Herausforderung häufig schon früher. Viele Verwaltungsverfahren sind hochkomplex, Anträge bestehen aus zahlreichen Fragen, Nachweisen und rechtlichen Anforderungen, und Bescheide enthalten häufig Formulierungen, die für Juristen nachvollziehbar, für viele Bürger aber schwer zugänglich sind. Dabei geht es nicht um Nebensächlichkeiten, sondern um Ansprüche, Pflichten und Rechte. Ein Bürger sollte verstehen können, warum eine Entscheidung getroffen wurde, welche Möglichkeiten bestehen und welche nächsten Schritte erforderlich sind. Wenn dafür heute zunehmend künstliche Intelligenz eingesetzt wird, ist das nicht nur eine Geschichte über KI, sondern auch eine über staatliche Kommunikation.
Was Digitalisierung bedeuten sollte
Deutschland diskutiert seit Jahren über die Digitalisierung der Verwaltung, doch ein digitales Formular allein ist noch keine digitale Verwaltung. Ein modernes Verfahren sollte Menschen begleiten, und andere Bereiche zeigen längst, wie das funktionieren kann. Bei digitalen Steuerprogrammen privater Anbieter werden Nutzer Schritt für Schritt durch komplexe Sachverhalte geführt, Begriffe werden erklärt, Fehler erkannt, Hinweise gegeben. Die Technik hilft dem Menschen, ein kompliziertes Verfahren korrekt zu durchlaufen. Ich sehe nicht, warum dieses Prinzip nicht auch für staatliche Anträge gelten sollte. Ein Antrag auf eine wichtige Leistung verdient nicht weniger Unterstützung als eine private Steuererklärung und vor allem sollte er frei zugänglich und kostenlos sein.
KI schafft ein Stück mehr Waffengleichheit
Man sollte den Einwand der Verwaltung dabei nicht kleinreden. Wenn Zahl und Umfang der Eingaben steigen, ohne dass Personal im gleichen Tempo mitwächst, hat das spürbare reale Folgen. Zum Beispiel längere Bearbeitungszeiten, auch für Menschen, die gar keine KI nutzen und einfach nur auf ihren Bescheid warten. Die Mitarbeitenden in den Jobcentern haben sich diese Situation nicht ausgesucht, und ihre Klagen sind berechtigt. Sie sitzen zwischen einer wachsenden Eingabenflut und einer Personaldecke, die politisch entschieden wird.
Nur ändert das nichts daran, wo die Lösung ansetzen muss. Auch Unternehmen, Kanzleien und Organisationen nutzen künstliche Intelligenz, um effizienter zu arbeiten, ohne dass man ihnen das vorwirft. Den Bürgern dasselbe Werkzeug zu verwehren, würde die Schieflage nicht beheben, sondern nur verschieben, eben von der Verwaltung zurück auf den Einzelnen, der sich wieder auf Geld oder Bildung verlassen müsste, um sein Recht durchzusetzen. Gerade für Menschen ohne juristische Ausbildung oder ohne finanzielle Möglichkeiten kann KI ein Werkzeug sein, um Nachteile auszugleichen. Vollständige Gleichheit schafft sie damit nicht, aber sie kann immerhin Unterschiede minimieren. Das eigentliche Problem, die fehlenden Ressourcen der Verwaltung, bleibt davon unberührt und muss separat gelöst werden.
Verfahrenslotsen, ein wichtiger Schritt, aber sicher nicht das Ziel
Dass dieses Ungleichgewicht real ist, hat man an anderer Stelle längst erkannt. In der Kinder- und Jugendhilfe wurden in Nordrhein-Westfalen sogenannte Verfahrenslotsen eingeführt, die Eltern von Kindern mit Behinderung durch das Dickicht der Zuständigkeiten und Anträge begleiten. Das ist ein wichtiger Schritt und zeigt, dass der Gesetzgeber erkannt hat, dass Bürokratie allein nicht zu bewältigen ist. Wenn man Lotsen braucht, um Menschen durch ein Verfahren zu führen, kann die Konsequenz nicht nur lauten, mehr Lotsen einzustellen. Sie muss auch lauten, das Verfahren selbst zu vereinfachen, damit diese Hilfe im Idealfall irgendwann gar nicht mehr nötig ist. Und wenn man das Problem bei Eltern von Kindern mit Behinderung erkennt, stellt sich sofort die logische Anschlussfrage, was ist mit Senioren, die mit Online-Verfahren fremdeln, mit Menschen mit Migrationshintergrund, die mit Amtsdeutsch kämpfen, oder mit bildungsfernen Menschen, die nie gelernt haben, sich durch Paragrafen und Formulare zu arbeiten? Wenn ein Lotsensystem für eine Zielgruppe richtig ist, liegt die Frage nahe, warum es nicht für alle gilt, die strukturell benachteiligt sind. Sonst entsteht ein Flickenteppich aus Einzellösungen, während das eigentliche Problem – komplexe, wenig barrierefreie Verwaltung – bestehen bleibt.
Genau an dieser Stelle kann KI ansetzen und zwar nicht als Ersatz für menschliche Lotsen, aber als niedrigschwelliges, jederzeit verfügbares Werkzeug für alle, die keinen persönlichen Lotsen an ihrer Seite haben.
Auch Datenschutzbehörden beobachten diese Entwicklung
Die Diskussion über KI-generierte Schreiben beschränkt sich dabei nicht auf Jobcenter. Als Datenschutzbeauftragter und Referent für Datenschutz stehe ich regelmäßig im Austausch mit staatlichen und kirchlichen Datenschutzaufsichtsbehörden, und auch dort wird von einer Zunahme umfangreicher Eingaben berichtet, die erkennbar oder vermutlich mit Unterstützung künstlicher Intelligenz erstellt wurden. Jeder Vorgang muss geprüft, jede Behauptung eingeordnet werden, auch oder teilweise gerade ein offensichtlich fehlerhaftes KI-Schreiben verursacht zunächst Arbeit, unabhängig davon, ob es am Ende zu Recht oder zu Unrecht eingereicht wurde. Dies zeigt deutlich, dass das Kapazitätsproblem kein Sonderfall bei den Jobcentern darstellt, sondern überall dort auftritt, wo Verwaltung auf eine plötzlich verfügbare neue Technologie stößt, ohne dass ihre Strukturen mitgewachsen sind.
Der wirklich Knackpunkt
Die Debatte muss daher weniger mit dem Focus geführt werden, wie man Bürger KI einen Riegel vorschiebt bei der KI-Nutzung und mehr darauf abzielen, warum Bürger KI oder einen Lotsen überhaupt benötigen, um mit ihrem eigenen Staat zu kommunizieren. Wenn ein Mensch einen Bescheid nicht versteht, einen Antrag nicht ausfüllen kann oder seine Rechte nicht kennt, sollte die Antwort eines modernen Staates nicht sein, ihm bessere Werkzeuge zu nehmen. Sie sollte sein, selbst bessere Werkzeuge bereitzustellen und auch Verfahren von Grund auf so zu gestalten, dass Geld und Bildung keine Zugangsvoraussetzung mehr sind. Der Staat könnte digitale Assistenten anbieten, die beim Ausfüllen von Anträgen helfen, Begriffe erklären und auf Rechte hinweisen, nicht als Ersatz für Entscheidungen, sondern als Unterstützung für Menschen – digitaler, barriereärmer und partnerschaftlicher, als Verwaltung heute oft erlebt wird.
Das ist kein Vorhaben, das sich von heute auf morgen umsetzen lässt. Gewachsene Zuständigkeiten, unterschiedliche IT-Systeme zwischen Kommunen, Ländern und Bund, Datenschutzanforderungen, Ausbildung des Personals. Es wäre ein Projekt über Jahre, nicht über Monate. Aber genau das darf kein Grund sein, es nicht anzugehen. Erste Schritte sind heute schon möglich. Verständlichere Bescheide als Standard statt als Ausnahme, Pilotprojekte für digitale Antragsbegleitung in einzelnen Leistungsbereichen, eine systematische Auswertung, wo Verfahrenslotsen bereits helfen, um daraus zu lernen, was sich verallgemeinern lässt. Man muss nicht das ganze System an einem Tag neu bauen, um trotzdem heute schon anzufangen.
Ein solches Projekt wirft durchaus auch eine Vertrauensfrage auf. Warum sollten Bürger, die einer Behörde beim Bescheid schon skeptisch gegenüberstehen, einem staatlichen KI-Assistenten mehr vertrauen? Die Antwort muss der Staat nicht allein liefern. Es gibt in Deutschland eine ganze Landschaft an Organisationen, die bei genau den Menschen, um die es hier geht, bereits hohes Vertrauen genießen. Wohlfahrtsverbände wie Caritas und Diakonie in der Sozialberatung, der Chaos Computer Club und andere zivilgesellschaftliche Akteure in Fragen von Datenschutz und technischer Transparenz, das wären Partner die Vertrauen schaffen könnten. Würde man solche Organisationen aktiv in die Entwicklung eines digitalen Antragsassistenten einbinden, statt ihn allein aus der Verwaltung heraus zu bauen, würde das die Akzeptanz von Anfang an erhöhen, weil die Prüfung nicht nur behördenintern, sondern durch unabhängige, glaubwürdige Stellen erfolgt wäre. Und wenn die Ergebnisse dann stimmen, wenn Bürger spürbar schneller und zuverlässiger zu ihrem Recht kommen, spricht sich das herum, ganz unabhängig davon, wie überzeugend die Ankündigung vorher war. Vertrauen entsteht so nicht durch ein Versprechen, sondern durch eine Kombination aus glaubwürdigen Partnern und sichtbaren Ergebnissen, die sich gegenseitig verstärken.
KI macht das eigentliche Problem sichtbar
Die Diskussion um KI-generierte Widersprüche zeigt einen größeren Wandel. Zum ersten Mal verfügen Bürger über Werkzeuge, die den Wissensvorsprung großer Organisationen zumindest teilweise reduzieren. Das verändert das Verhältnis zwischen Bürger und Verwaltung, und es bringt der Verwaltung eine echte Zusatzlast, die man ernst nehmen muss, statt sie wegzudiskutieren. Trotzdem bleibt der Einsatz von KI durch Bürger etwas anderes als Missbrauch. Er ist eine logische Folge einer Welt, in der komplexe Informationen plötzlich für viele Menschen zugänglich werden und ein Symptom dafür, dass Verwaltung bislang zu oft auf Eigeninitiative, Geld oder Bildung der Bürger setzt statt auf eigene Barrierefreiheit. Nicht jede KI-generierte Eingabe ist automatisch sinnvoll, nicht jede Argumentation richtig, aber das rechtfertigt keinen Generalverdacht gegen alle, die das Werkzeug nutzen, weil sie sonst keines hätten.
Die eigentliche Aufgabe liegt woanders. Eine Verwaltung zu schaffen, die niemanden, ob Eltern, Senioren, Menschen mit Migrationshintergrund oder bildungsferne Menschen, erst zwingt, sich eine KI oder einen Lotsen als Übersetzer der eigenen Rechte zu suchen. Das entlastet am Ende auch die Verwaltung selbst, weil weniger Menschen überhaupt erst in die Situation geraten, in der sie zu solchen Werkzeugen greifen müssen.
Dahinter steht mehr als nur eine Effizienzfrage. Ein Staat, in dem Geld oder Bildung darüber entscheiden, ob jemand sein Recht durchsetzen kann, behandelt seine Bürger nicht gleich! Aber Gleichbehandlung ist kein Nice-to-have, sondern eine der Grundlagen dessen, was eine Demokratie überhaupt trägt. Soziale Gerechtigkeit entsteht nicht nur durch Verteilung von Geld, sondern auch dadurch, dass jeder Mensch, unabhängig von Herkunft oder Bildungsweg, tatsächlich verstehen und nutzen kann, was ihm zusteht. Genau das zu erreichen, wäre die eigentliche, langfristige Auftrag hinter dieser Debatte.