英国将取消签证审批中的AI“种族主义”算法

英国内政部将取消一项有争议的决策算法,移民权利运动人士认为,这种算法创造了针对申请英国签证人士的敌意环境。

这种被活动家们描述为种族主义者的算法,自2015月年以来一直被用于英国签证的审批。据《卫报》看到的一封来自内政部律师的信,内政部从8月7日星期五起,将其束之高阁。

做出该项决定的背景是,移民福利联合委员会(JCWI)要搞司法审查,挑战内政部用人工智能系统筛选英国签证申请的做法。

活动家们声称,内政部决定在司法审查之前禁用该算法,是英国挑战AI决策系统的首次成功。

JCWI的法律政策总监Chai Patel说:““这种计算工具收录了数十年积累下来的种族主义做法,例如针对特定国籍的移民进行突袭检查之类的。移民系统需要彻底重建,要能敏锐察觉这种偏见,并根除这种偏见。”

JWCI和技术正义运动组织Foxglove在提交高等法院的陈述中称,该算法包括三种通道,其中之一是快速通道,为来自白人国家的移民专门设置的。

内政部的律师在信件中确认,内政大臣帕特尔(Priti Patel)“已决定,在评估签证申请中,停止使用这种数据流工具。”

这封信继续谈到了数据流签证系统的重新设计,律师写道:“在重新设计过程中,我们的客户打算仔细考虑和评估你们提出的要点,包括不自觉的偏见,和在数据流工具中广泛使用国籍的做法。” 但内政部的律师补充说:“为清楚起见,重新设计的事实,并不意味着内政大臣接受你们的指控。”

Foxglove的创始人兼董事Cori Crider说:“我们需要的是民主,而不是使用秘密算法的政府。在进一步推出任何系统之前,让我们来问问公众,在审批方面搞自动化到底合适不合适,而且要让系统透明,这样可以随时纠偏,把问题的根本找出来。”

内政部的发言人说:“我们一直在审查签证申请中的数据流工具的运作,并将重新设计我们的流程,使其更加简化和安全。我们不接受移民福利联合委员会在司法审查中提出的指控。当然诉讼仍在进行中,内政部不宜再发表评论。”

关注时事,订阅新闻邮件
本订阅可随时取消

请登录后发表评论。