Open Rights Group fordert Innenministerium auf, den Einsatz von KI-Tools bei Asylentscheidungen auszusetzen

Die Digitalrechtsorganisation Open Rights Group (ORG) hat einen 20-seitigen Bericht veröffentlicht, in dem sie zwei KI-Tools kritisiert, die derzeit im britischen Asylverfahren eingesetzt werden: das Asylum Case Summarisation (ACS)-System und die Asylum Policy Search (APS)-Suchmaschine. Die sechsmonatige Untersuchung von ORG ergab, dass die ACS-Zusammenfassungen in 22 % der untersuchten Fälle als „nicht verwendbar“ eingestuft wurden – deutlich mehr als die 9 % Fehlerquote, die das Innenministerium in seinem eigenen Pilotprojekt angegeben hatte. Das Suchtool, das auf GPT-4o über Azure AI basiert, verfügt über keinen kontinuierlichen Qualitätskontrollprozess. ORG wirft dem Innenministerium vor, das KI-Handbuch der britischen Regierung ignoriert und die Systeme nicht im Algorithmic Transparency Recording Standard-Portal gelistet zu haben. Widersprüchliche Angaben zu Schulungen des Personals in parlamentarischen Antworten und Informationsfreiheitsanfragen führten zu Forderungen nach einer unabhängigen Prüfung durch den Chief Inspector of Borders and Immigration. Für Arbeitgeber, die Flüchtlingstalente einstellen oder global entsandte Mitarbeitende zu Schutzmöglichkeiten beraten, könnten unzuverlässige KI-generierte Zusammenfassungen zu Verzögerungen bei wichtigen Entscheidungen führen – ORG errechnete seit April 2026 einen Anstieg der Zeitspanne zwischen Interview und Entscheidung um 29 %. Diese Unvorhersehbarkeit erschwert Onboarding-Prozesse und gefährdet Reisepläne, die von einer schnellen Schutzgewährung abhängen. Der Bericht fordert die sofortige Aussetzung beider Tools, eine unabhängige Bewertung und die Einbeziehung betroffener Gemeinschaften. Wird dies umgesetzt, könnte ein Moratorium kurzfristig die Bearbeitung von Asylfällen weiter verlangsamen, langfristig aber rechtlich belastbarere Ergebnisse liefern – zum Vorteil von HR-Teams, die auf verlässliche Angaben zu Arbeitsaufnahmezeiten angewiesen sind.