您的位置 首页 英国

“将不公正编入移民体系” 英国移民系统人工智能工具遭批

【欧洲时报11月12日刘涛编译】活动人士表示,英国内政部推出的人工智能工具可在针对成人和儿童的移民执法行动方面提供建议,但这种做法可能会让官员们轻率做出足以改变他人人生的决策。

英国《卫报》报道,随着更多有关英国内政部人工智能移民执法系统的新细节浮出水面,批评人士将该系统称为“机器人案件工作者”,由于某种算法参与了决策的制定,如将移民遣送回国,他们担心此举可能将不公正编码植入移民系统。

然而政府坚持认为,该系统可通过区分优先级来提高工作效率,并且每个决定都由一名工作人员负责。该系统是在面临遣返行动的寻求庇护者人数不断增长之际投入使用的,目前这一人数约有4.1万。但移民权利活动人士呼吁内政部停用该系统,声称这是“让残忍和伤害变得更高效的技术”。

该系统是英国当局正在部署的若干人工智能项目之一,官员们希望提高办公速度和效率。不过,一些人呼吁提高政府在健康、福利等领域使用人工智能工具的透明度。

英国科学事务大臣彼得·凯尔表示,人工智能在改善公共服务方面具有巨大潜力,为了能够充分利用,需要建立对这些系统的信任。

内政部文件显示,识别和优先处理移民案件(IPIC)系统被输入了一系列关于可能采取执法行动的寻求庇护者的个人信息,包括生物特征、种族和健康以及犯罪记录数据。文件称,其目的是为移民执法部门创造一种更简捷、更有效的方式,以识别、优先处理和协调管理案件量所需的服务或干预措施。

但“隐私国际”(Privacy International)律师乔纳·门德尔松表示,内政部的人工智能工具可能会影响数十万人的生活。“如果不做出改变确保算法的透明度和问责制,内政部到2025年实现‘默认数字化’的承诺将进一步将不公正编入移民体系。”

移民权利网络(Migrants'Rights Network)首席执行官菲兹·库雷希呼吁撤回该工具,并对人工智能可能导致的种族偏见表示担忧。“IPIC输入了大量数据,意味着可与其他政府部门共享数据以收集健康信息,这表明该工具也将监视移民,进一步侵犯他们的隐私。”

IPIC自2019年以来被广泛采用,且内政部拒绝了之前的信息自由调查,理由是更大程度的公开“可以让人们了解内政部和移民执法部门的工作是如何分类的,从而规避移民控制”。

牛津大学移民观察站总监玛德琳·萨姆普森表示,在移民系统中使用人工智能本身并没有错,因为从理论上讲,人工智能可以改善而非取代人类的决策。“政府很可能能够证明人工智能可以带来更好的决策,减少不必要的拘留,但如果没有更大的透明度,我们便无从知晓。”

(编辑:柳露)