近日，英國科技部長彼得?凱爾（Peter Kyle）承認，政府部門在使用人工智能(AI)和算法方面缺乏透明度，導致公眾對這些技術(shù)的應用感到不安。

自從政府宣布將強制要求所有部門登記使用 AI 系統(tǒng)以來，至今沒有一個白廳部門完成這一登記。這引發(fā)了對公共部門在影響數(shù)百萬生活的算法技術(shù)部署上的警告，稱其在 “盲目” 行事。

圖源備注:圖片由AI生成，圖片授權(quán)服務(wù)商Midjourney

目前，政府已在多個領(lǐng)域應用 AI，包括福利支付和移民執(zhí)法等。根據(jù)記錄，公共機構(gòu)已經(jīng)與多家科技公司簽訂了數(shù)十份 AI 和算法服務(wù)的合同。例如，內(nèi)政部最近發(fā)布了一份價值高達2000萬英鎊的面部識別軟件合同，這引發(fā)了對 “大規(guī)模生物識別監(jiān)控” 的擔憂。然而，迄今為止，只有九個算法系統(tǒng)被登記在公共注冊中，未包含福利系統(tǒng)、內(nèi)政部或警方的任何 AI 程序。

專家們警告說，如果對 AI 的使用缺乏批判性思考，可能會帶來潛在的危害。內(nèi)閣辦公室、劍橋市以及 NHS 等機構(gòu)目前已登記的算法系統(tǒng)數(shù)量極為有限。盡管如此，自今年2月以來，與公共機構(gòu)簽訂的涉及 AI 的合同已達164份，顯示出對 AI 技術(shù)的強烈需求。

凱爾表示，公眾有權(quán)了解政府在使用算法方面的情況，并承諾將加強透明度。隱私權(quán)倡導組織 Big Brother Watch 指出，政府在使用 AI 技術(shù)時缺乏透明度，可能危及公眾的數(shù)據(jù)權(quán)利。最近，Ada Lovelace Institute 警告稱，雖然 AI 系統(tǒng)可能看似減少了行政負擔，但如果其結(jié)果存在歧視或無效，反而可能損害公眾信任。

目前，只有三種算法被記錄在國家登記冊中，分別用于識別數(shù)字記錄、分析人行橫道和患者對 NHS 服務(wù)的評價。科技公司如微軟和谷歌云正積極推廣其 AI 系統(tǒng)，聲稱更廣泛的 AI 部署能夠為公共部門帶來巨額節(jié)省。凱爾也稱這種技術(shù)可能在政府服務(wù)中產(chǎn)生革命性影響。

在各個政府部門，AI 的應用已經(jīng)越來越普遍。比如，工作和養(yǎng)老金部正在使用生成式 AI 處理大量文件，自動檢測福利申請中的欺詐和錯誤。而內(nèi)政部則部署了一個 AI 驅(qū)動的移民執(zhí)法系統(tǒng)，盡管政府強調(diào)這不是一個典型的機器學習系統(tǒng)。

劃重點:

?? 英國政府未能登記任何 AI 系統(tǒng)，公眾對其透明度表示擔憂。

?? AI 技術(shù)已廣泛應用于福利支付和移民執(zhí)法，但記錄卻十分匱乏。

?? 專家警告 AI 可能帶來的潛在危害，呼吁加強透明度與監(jiān)管。