英國將取消簽證審批中的AI「種族主義」算法

英國內政部將取消一項有爭議的決策算法，移民權利運動人士認為，這種算法創造了針對申請英國簽證人士的敵意環境。

這種被活動家們描述為種族主義者的算法，自2015月年以來一直被用於英國簽證的審批。據《衛報》看到的一封來自內政部律師的信，內政部從8月7日星期五起，將其束之高閣。

做出該項決定的背景是，移民福利聯合委員會（JCWI）要搞司法審查，挑戰內政部用人工智能系統篩選英國簽證申請的做法。

活動家們聲稱，內政部決定在司法審查之前禁用該算法，是英國挑戰AI決策系統的首次成功。

JCWI的法律政策總監Chai Patel說：「「這種計算工具收錄了數十年積累下來的種族主義做法，例如針對特定國籍的移民進行突襲檢查之類的。移民系統需要徹底重建，要能敏銳察覺這種偏見，並根除這種偏見。」

JWCI和技術正義運動組織Foxglove在提交高等法院的陳述中稱，該算法包括三種通道，其中之一是快速通道，為來自白人國家的移民專門設置的。

內政部的律師在信件中確認，內政大臣帕特爾（Priti Patel）「已決定，在評估簽證申請中，停止使用這種數據流工具。」

這封信繼續談到了數據流簽證系統的重新設計，律師寫道：「在重新設計過程中，我們的客戶打算仔細考慮和評估你們提出的要點，包括不自覺的偏見，和在數據流工具中廣泛使用國籍的做法。」 但內政部的律師補充說：「為清楚起見，重新設計的事實，並不意味着內政大臣接受你們的指控。」

Foxglove的創始人兼董事Cori Crider說：「我們需要的是民主，而不是使用秘密算法的政府。在進一步推出任何系統之前，讓我們來問問公眾，在審批方面搞自動化到底合適不合適，而且要讓系統透明，這樣可以隨時糾偏，把問題的根本找出來。」

內政部的發言人說：「我們一直在審查簽證申請中的數據流工具的運作，並將重新設計我們的流程，使其更加簡化和安全。我們不接受移民福利聯合委員會在司法審查中提出的指控。當然訴訟仍在進行中，內政部不宜再發表評論。」