Exclusiva: Herramienta de IA del Ministerio del Interior falla en una de cada cinco verificaciones de precisión en expedientes de asilo

Una investigación de The Independent revela que la herramienta de inteligencia artificial Asylum Case Summarisation (ACS), utilizada desde abril para redactar resúmenes de casos a partir de transcripciones de entrevistas, no cumplió con los estándares básicos de precisión en el 22 % de las revisiones aleatorias del Ministerio del Interior. Una auditoría de segundo nivel encontró que más de la mitad de los resúmenes revisados eran “deficientes”. El sistema ACS, basado en el modelo GPT-4 de OpenAI, estaba diseñado para reducir el tiempo de procesamiento en 23 minutos por expediente y ayudar a despejar el retraso en los casos de asilo. Ahora, diputados y organizaciones benéficas advierten que los resúmenes erróneos podrían provocar rechazos injustificados y apelaciones adicionales, socavando las eficiencias que el gobierno busca. El Ministerio del Interior insiste en que los responsables humanos siguen siendo quienes toman las decisiones y que los resultados de la IA son solo complementarios, pero documentos internos obtenidos mediante solicitudes de información muestran que el personal a menudo acepta el borrador generado por la IA sin verificar las transcripciones completas.
Implicaciones para los actores de la movilidad
Aunque el proceso de asilo es distinto de las rutas migratorias laborales, esta situación pone de manifiesto la creciente dependencia del Ministerio del Interior en la IA para funciones migratorias, incluyendo la evaluación de riesgos ETA y el análisis de cumplimiento de patrocinio. Los empleadores deben anticipar la implementación de herramientas similares en contextos de visas laborales y exigir transparencia sobre las tasas de error y los mecanismos de supervisión.