最近,英國政府在移民管理中引入了一種名為 “識別與優先處理移民案件”(IPIC)的人工智能工具。這一工具的目的是為了提高移民執法的效率,能夠為包括成人和兒童在內的移民提出強制遣返的建議。然而,權利團體對此表示強烈反對,認為這一做法可能會加劇對移民的壓迫,并使得決策過程變得過于依賴算法。

圖源備注:圖片由AI生成,圖片授權服務商Midjourney

在經過長達一年的信息公開請求后,關于該 AI 系統的部分細節被曝光。這些文件顯示,該系統會收集有關移民的個人信息,包括生物識別數據、種族、健康狀況以及犯罪記錄等。盡管政府聲稱,人工智能的引入能夠幫助快速處理移民案件,并且每一個建議都會由人類審核,但批評者認為,這種做法可能會導致官員 “簡單化” 決策過程,尤其是在接受算法建議時,官員無需提供任何理由,只需一鍵確認。

權利組織隱私國際(Privacy International)對此表示擔憂,認為該系統使得官員更傾向于接受計算機的建議,而不是深入評估個案。此外,移民權利網絡的首席執行官菲扎?庫雷希(Fizza Qureshi)指出,隨著數據共享的增加,AI 工具可能會加大對移民的監視和侵犯隱私的風險。

這一工具自2019-2020年以來開始廣泛應用,而政府在面對公眾的質疑時,拒絕透露更多的運作細節,理由是過多的透明度可能被用來規避移民控制。牛津大學移民觀察所的主任瑪德琳?桑普森(Madeleine Sumption)認為,雖然人工智能的使用本身并不錯誤,但在缺乏透明度的情況下,很難評估其對決策的實際影響。

最近,英國議會還提出了一項新的數據法案,允許在大多數情況下進行自動決策,只要相關人員可以進行申訴并獲得人類干預。這一變化引發了對未來移民決策是否會更加依賴算法的擔憂。

劃重點:

?? 該 AI 工具旨在提高移民案件處理的效率,但受到批評者的強烈反對。

?? 移民權利組織擔心該工具可能導致官員 “簡單化” 決策,并加大對移民的監視。

?? 英國議會提議的新法案允許自動決策,引發公眾對移民管理透明度的擔憂。