Exklusiv: KI-Tool des Innenministeriums besteht bei Asylakten nur vier von fünf Genauigkeitsprüfungen

Eine Untersuchung der Independent zeigt, dass das KI-Tool Asylum Case Summarisation (ACS) – seit April zur Erstellung von Fallzusammenfassungen aus Interviewtranskripten im Einsatz – bei 22 % der Stichprobenkontrollen des Innenministeriums grundlegende Genauigkeitsstandards nicht erfüllte. Eine zweite Prüfungsebene ergab, dass mehr als die Hälfte der überprüften Zusammenfassungen „mangelhaft“ waren. Das auf dem GPT-4-Modell von OpenAI basierende ACS-System sollte die Bearbeitungszeit pro Fall um 23 Minuten verkürzen und den Rückstau bei Asylanträgen abbauen. Abgeordnete und Wohltätigkeitsorganisationen warnen nun, dass fehlerhafte Zusammenfassungen zu ungerechtfertigten Ablehnungen und zusätzlichen Berufungen führen könnten, was die angestrebten Effizienzgewinne der Regierung untergräbt. Das Innenministerium betont, dass menschliche Entscheider weiterhin verantwortlich bleiben und die KI-Ergebnisse nur unterstützend sind. Interne Dokumente, die im Rahmen von Informationsfreiheitsanfragen vorliegen, zeigen jedoch, dass Mitarbeiter die KI-Entwürfe oft ohne vollständige Überprüfung der Transkripte übernehmen. Auswirkungen für Akteure im Mobilitätsbereich Obwohl die Asylverfahren von Arbeitsmigration getrennt sind, verdeutlicht der Fall die zunehmende Abhängigkeit des Innenministeriums von KI in verschiedenen Einwanderungsprozessen – etwa bei Risikoanalysen für ETA und der Überwachung von Sponsorenzertifizierungen. Arbeitgeber sollten damit rechnen, dass ähnliche Tools künftig auch bei Arbeitsvisa eingesetzt werden, und Transparenz bezüglich Fehlerquoten und Kontrollmechanismen einfordern.