2026年7月28日发布的一项严厉判决显示，一名高级移民法官撤销了内政部对一名北非女性难民申请的拒绝决定，原因是拒绝信中的关键内容由人工智能工具生成，且引用了不存在的国家信息报告。该案件为保护申请人身份而匿名处理，涉及该女性于2025年在英国申请难民身份。内政部工作人员在拒绝她的申请时，引用了2021年发布的《国家政策与信息说明：摩洛哥—女性》一文，但法官指出该文件明显是“AI幻觉”的产物：该文件在内政部资料库中找不到，且引用了不存在的来源。此判决是法院首次明确批评内政部日益依赖生成式人工智能起草决定信件。
证据显示，工作人员被鼓励使用内部大型语言模型助手，以将起草时间缩短“高达70%”。但法官警告称，在生死攸关的决定中使用未经验证的AI输出，违反了普通法中进行调查和提供清晰理由的义务。对于雇主和全球流动管理者而言，此事不仅是法律趣闻。内政部已在签证延期和身份验证流程中试点同一大型语言模型工具，令人担忧如果出现AI生成的错误，工作许可或定居申请可能被延误或错误拒绝。律师事务所报告称，近期技术工人拒签中出现的“神秘文件”疑似由AI起草。
该判决预计将在政府内部引起广泛反响。内阁办公室跨部门AI与数据伦理秘书处预计将出台更严格的保障措施，包括在移民决定中使用AI生成文本前，必须进行人工审核和来源核查。律师监管机构已提醒代理人，提交虚假材料可能构成不当行为，这一警告现已扩展至政府律师。实际上，企业应准备应对更多文件请求和更长的决策时间，因为内政部将重新审查AI辅助案件。若拒绝决定引用晦涩指导，顾问应要求披露相关来源，并在必要时以公共法理由提出质疑。
此案也为在合规关键领域推广生成式AI的组织敲响警钟：健全的治理、可追溯性和人工复核是不可妥协的底线。
证据显示，工作人员被鼓励使用内部大型语言模型助手，以将起草时间缩短“高达70%”。但法官警告称，在生死攸关的决定中使用未经验证的AI输出，违反了普通法中进行调查和提供清晰理由的义务。对于雇主和全球流动管理者而言，此事不仅是法律趣闻。内政部已在签证延期和身份验证流程中试点同一大型语言模型工具，令人担忧如果出现AI生成的错误，工作许可或定居申请可能被延误或错误拒绝。律师事务所报告称，近期技术工人拒签中出现的“神秘文件”疑似由AI起草。
该判决预计将在政府内部引起广泛反响。内阁办公室跨部门AI与数据伦理秘书处预计将出台更严格的保障措施，包括在移民决定中使用AI生成文本前，必须进行人工审核和来源核查。律师监管机构已提醒代理人，提交虚假材料可能构成不当行为，这一警告现已扩展至政府律师。实际上，企业应准备应对更多文件请求和更长的决策时间，因为内政部将重新审查AI辅助案件。若拒绝决定引用晦涩指导，顾问应要求披露相关来源，并在必要时以公共法理由提出质疑。
此案也为在合规关键领域推广生成式AI的组织敲响警钟：健全的治理、可追溯性和人工复核是不可妥协的底线。
来源： The Guardian
