
Versteckt in der 120-seitigen Änderungsübersicht zum Einwanderungs- und Asylgesetz vom Dienstag findet sich der neue Paragraph 20, der „Entscheidungen mit rechtlichen oder ähnlich bedeutenden Auswirkungen“ im Bereich Einwanderung, Asyl oder moderner Sklaverei verbietet, wenn diese von oder mit Hilfe von KI-Systemen getroffen werden, die personenbezogene Daten verarbeiten. Der am 17. November diskutierte Paragraph spiegelt die wachsende parlamentarische Sorge über algorithmische Verzerrungen wider, nachdem es bei Visumsprüfungen für Studierende und Arbeitsberechtigungen zu gravierenden Fehlern gekommen war. Bleibt die Regelung im endgültigen Gesetz erhalten, müsste das Innenministerium sicherstellen, dass jede automatisierte Risikobewertung vor einer Visumsablehnung oder Statusaufhebung von einem Menschen überprüft wird. Technologieanbieter wären zudem verpflichtet, Erklärungsdokumentationen bereitzustellen. Für Arbeitgeber könnte dies plötzliche, systemgenerierte Aussetzungen von Sponsor-Lizenzen verringern, allerdings könnten sich die Bearbeitungszeiten durch die manuelle Kontrolle verlängern. Der Paragraph steht im Einklang mit dem geplanten Digital Regulation Bill der Regierung und deutet darauf hin, dass der Bereich Einwanderung als frühes Testfeld für KI-Verantwortlichkeit dienen wird. Rechtsexperten erwarten, dass sekundäre Rechtsvorschriften Ausnahmen regeln – etwa automatisierte Vorprüfungen bei risikoarmen Besuchervisumsanträgen – betonen jedoch, dass Sponsoren bereit sein sollten, jede Ablehnung anzufechten, bei der KI eine nicht offengelegte Rolle gespielt hat.