Richter kritisiert Innenministerium wegen der Nutzung von „KI-erfundenen“ Beweisen bei Asylablehnung

Ein scharfes Urteil vom 28. Juli 2026 zeigt, dass ein leitender Einwanderungsrichter die Ablehnung eines Asylantrags durch das Innenministerium aufgehoben hat, nachdem er festgestellt hatte, dass zentrale Passagen im Ablehnungsschreiben von einem KI-Tool generiert wurden und sich auf eine Länderinformationsnotiz bezogen, die gar nicht existiert. Der Fall – zum Schutz der Antragstellerin anonymisiert – betraf eine nordafrikanische Frau, die 2025 in Großbritannien Asyl beantragt hatte. Bei der Ablehnung ihres Antrags beriefen sich die Mitarbeiter des Innenministeriums auf eine „Country Policy and Information Note: Morocco – Women“ aus dem Jahr 2021, die der Richter als „typisches Beispiel einer KI-Halluzination“ bezeichnete: Das Dokument fehlt in der Abteilungsbibliothek und enthält Verweise auf nicht existierende Quellen.

Das Urteil ist das erste Mal, dass ein Gericht die zunehmende Nutzung generativer KI durch das Innenministerium zur Erstellung von Entscheidungsbescheiden ausdrücklich kritisiert. Vorgelegte Beweise zeigten, dass Mitarbeiter ermutigt wurden, einen internen Sprachmodell-Assistenten zu verwenden, um die Entwurfszeiten um „bis zu 70 Prozent“ zu verkürzen. Der Richter warnte jedoch, dass der Einsatz unüberprüfter KI-Ergebnisse bei Entscheidungen mit lebenswichtiger Bedeutung gegen die common-law-Pflicht zur sorgfältigen Prüfung und nachvollziehbaren Begründung verstößt.

Für Arbeitgeber und Manager im Bereich globale Mobilität ist dieser Fall mehr als nur eine rechtliche Kuriosität. Das Innenministerium testet dasselbe Sprachmodell-Tool auch in Abläufen zur Visumsverlängerung und Statusüberprüfung, was Befürchtungen nährt, dass Anträge auf Arbeitserlaubnis oder Niederlassung sich verzögern oder fälschlicherweise abgelehnt werden könnten, wenn sich synthetische Fehler einschleichen. Anwaltskanzleien berichten von einem Anstieg „mysteriöser Dokumente“, die in jüngsten Ablehnungen von Facharbeiteranträgen zitiert werden und mutmaßlich aus KI-Entwürfen stammen.

Das Urteil wird voraussichtlich weitreichende Folgen für die Regierung haben. Das ressortübergreifende AI- und Datenethik-Sekretariat des Kabinetts wird nun strengere Schutzmaßnahmen erlassen, darunter verpflichtende menschliche Freigaben und Herkunftsprüfungen, bevor KI-generierte Texte in Einwanderungsentscheidungen verwendet werden dürfen. Die Solicitors Regulation Authority erinnert Vertreter bereits daran, dass das Einreichen halluzinierter Materialien zu berufsrechtlichen Verstößen führen kann – eine Warnung, die nun auch für Regierungsanwälte gilt.

Praktisch sollten Unternehmen mit mehr Dokumentenanforderungen und längeren Entscheidungszeiten rechnen, während das Innenministerium KI-unterstützte Fälle erneut überprüft. Wenn eine Ablehnung auf schwer nachvollziehbare Richtlinien verweist, sollten Berater die Offenlegung der zugrundeliegenden Quellen verlangen und gegebenenfalls die Entscheidung aus öffentlich-rechtlichen Gründen anfechten. Der Fall ist zudem ein Weckruf für Organisationen, die generative KI in compliance-kritischen Bereichen einsetzen: Eine robuste Governance, Nachvollziehbarkeit und menschliche Kontrolle sind unverzichtbar.