英国将取消签证审批中的AI“种族主义”算法

英国内政部将取消一项有争议的决策算法，移民权利运动人士认为，这种算法创造了针对申请英国签证人士的敌意环境。

这种被活动家们描述为种族主义者的算法，自2015月年以来一直被用于英国签证的审批。据《卫报》看到的一封来自内政部律师的信，内政部从8月7日星期五起，将其束之高阁。

做出该项决定的背景是，移民福利联合委员会（JCWI）要搞司法审查，挑战内政部用人工智能系统筛选英国签证申请的做法。

活动家们声称，内政部决定在司法审查之前禁用该算法，是英国挑战AI决策系统的首次成功。

JCWI的法律政策总监Chai Patel说：““这种计算工具收录了数十年积累下来的种族主义做法，例如针对特定国籍的移民进行突袭检查之类的。移民系统需要彻底重建，要能敏锐察觉这种偏见，并根除这种偏见。”

JWCI和技术正义运动组织Foxglove在提交高等法院的陈述中称，该算法包括三种通道，其中之一是快速通道，为来自白人国家的移民专门设置的。

内政部的律师在信件中确认，内政大臣帕特尔（Priti Patel）“已决定，在评估签证申请中，停止使用这种数据流工具。”

这封信继续谈到了数据流签证系统的重新设计，律师写道：“在重新设计过程中，我们的客户打算仔细考虑和评估你们提出的要点，包括不自觉的偏见，和在数据流工具中广泛使用国籍的做法。” 但内政部的律师补充说：“为清楚起见，重新设计的事实，并不意味着内政大臣接受你们的指控。”

Foxglove的创始人兼董事Cori Crider说：“我们需要的是民主，而不是使用秘密算法的政府。在进一步推出任何系统之前，让我们来问问公众，在审批方面搞自动化到底合适不合适，而且要让系统透明，这样可以随时纠偏，把问题的根本找出来。”

内政部的发言人说：“我们一直在审查签证申请中的数据流工具的运作，并将重新设计我们的流程，使其更加简化和安全。我们不接受移民福利联合委员会在司法审查中提出的指控。当然诉讼仍在进行中，内政部不宜再发表评论。”