美國人已經懶到開始用軟體斷案了

迪士尼的動畫片里，經常會出現一面魔鏡。男女主人公有任何困惑，問問魔鏡，從來不會失望。AI越來越像是那面魔鏡。

美國政府近年來興起了一陣AI熱，他們與學校、企業及公益機構合作，開發各類AI軟體為政府事務服務。法官通過軟體判斷嫌犯該不該緩刑，警察通過軟體規劃巡邏路線，民政部門希望軟體告訴自己要不要對某起虐童行為發起調查。AI似乎成了萬能鑰匙，讓政府的決策更為理性與高效。

可事實真會如他們所願嗎？

今天摘譯一篇來自美國《連線》（WIRED）雜誌的文章。在這篇文章里，我們可以看到，政府對AI的深度使用，正在影響著美國的司法公正。而面對學者與媒體的追問，美國政府官員與有關機構互相推諉，沉默是金，甚至說謊。AI在美國政府體系內的實踐，值得我們關注。以下是文章全文——

舊金山高等法院法官沙龍·里爾登有點犯愁。

一個叫米姆的19歲青年被指控違反了緩刑條款，里爾登正在猶豫要不要把他再次收監。她面前擺著一份證據。米姆曾犯有盜竊罪，公共安全測評系統（PSD）通過演算法對米姆是否有可能再次從事暴力犯罪或潛逃進行了風險評估。評估結果建議：釋放米姆。

里爾登照辦了。

五天後，警方宣布，米姆對一名七旬老人實施搶劫，並將其殺害。

【名詞解釋】PSD，Public Safety Assessment，公共安全測評系統。健一君注。

舊金山地區檢察官辦公室隨後發表聲明：由於工作人員操作失誤，未將米姆過往刑期納入公共安全測評系統。言下之意，若不是操作失誤，該系統就會出具收監建議，而不是釋放。

米姆案暴露了一個事實：美國政府機構越來越依賴數學模型，在司法、兒童福利、教育及其他領域提供決策依據，而民眾卻很難甚至不可能去了解這些演算法的運作過程。

舊金山高等法院從去年開始使用公共安全測評系統，該系統由阿諾德基金會免費捐贈。阿諾德基金會希望這套系統可以防止那些沒有財力繳納保釋金的窮人長期滯留在獄中。但在與法院簽署的諒解備忘錄中，該基金會明確禁止法院公布「與公共安全測評系統有關的任何信息，包括其運行機理、操作流程和陳述內容。」

【名詞解釋】John and Laura Arnold Foundation，勞拉及約翰·阿諾德基金會，簡稱阿諾德基金會，該基金會主要關注肥胖問題、K12教育及司法改革。

華盛頓大學的羅伯特·布勞內思（以下簡稱「羅教授」）和羅格斯大學的艾倫·古德曼（以下簡稱「古教授」，抱歉沒找到古教授的照片）這兩位法學教授將這份備忘錄公諸於世。兩人本月發表了一篇論文，探討政府利用演算法進行預測行為的透明度問題。他們向美國23個州提交了42份檔案公開請求，要求政府公布正在使用的公共安全測評系統及另外五款演算法工具的信息。結果並不理想。

羅伯特·布勞內思

多家政府表示，沒有教授所說項目的相關記錄。知情人士則說，政府不敢承認，是因為他們與項目方有約在先：項目信息不得公開。在古教授看來，這幫當官的已經忘記了自己是老百姓選出來的了。

阿諾德基金會信誓旦旦地表示，不會再要求政府官員對公共安全測評系統保密，也很願意對現有合同條款進行調整，以便官員們對外披露該系統的使用情況。舊金山高等法院人士則表示，到目前為止，他們與基金會的合同並未更新，限制條款仍然存在。

「民眾至上」（ProPublica）網站調查發現，某套用於審判及保釋的決策系統對黑人有偏見。學者們連年警告，警惕那些隱藏在商業機密或技術進程背後的公共政策，它們看似與商業及技術毫無瓜葛，實際上未必。

【名詞解釋】ProPublica，美國一家非營利性新聞網站，堅持做嚴肅、有深度的調查性報道，創辦僅兩年便捧得普利策獎。

在古教授看來，政府不願意公開相關信息，說明政府對此普遍存在畏懼心理。

政府對公開演算法工具的運算代碼有難言之隱，部分原因在於，這些演算法的知識產權通常歸項目提供方所有。古教授則認為，公眾迫切想知道的是：某套演算法是如何被選中、開發和測試的，它們又是如何識別虛假信息的。這並不是在破壞傳統意義上的官民互動，因為民眾總是希望了解新政修訂與實施的情況。「此舉不會影響政府的決策方式。公共政策正在進入先前沒有涉獵過的AI領域，民眾難道不該關心一下嗎？」古教授說。

鐵板也在慢慢鬆動。阿諾德基金會已經將公共安全測評系統演算法的核心公式及統計時採用的參數公開，這些參數包括測評對象的年齡、既往犯罪史以及是否無法出席聽證會等信息。據基金會的說法，這套系統的設計，採納了近75萬個案例作為數據源，俄亥俄州盧卡斯郡用了這套系統後，雖然沒交保釋金就獲釋的嫌疑人激增，但嫌疑人取保候審期間的犯罪率已然下降。

古教授窮追不捨，要求基金會披露更多這套測評系統的相關信息，比如其數據集、設計理念、分析原理和評測進程。她認為，這些數據可以幫助政府和公眾了解公共安全測評系統的優缺點，並將其與同類型審判前風險評估軟體作個比較。對這一要求，基金會不做直接回應。不僅如此，正在使用這套測評系統的政府幹脆不再披露其使用細節。

阿諾德基金會的說法是：正在收集可以披露的數據，供學者們評估；基金會首先要確保項目在司法系統使用期間的保密性，以防止政府或競爭對手在未經授權的情況下抄襲。

古教授和羅教授又將目光投向了商業軟體PredPol。他們向11家警察局提出信息公開申請，希望公布其對PredPol的使用情況。這款軟體可以預測哪些區域犯罪概率最高，以此作為警察巡邏路線規劃的依據。

只有三家警察局做出回應。沒有一家警察局公布PredPol的演算法與預測過程。

PredPol由洛杉磯警察局和洛杉磯加利福尼亞大學合作開發，由同名企業負責銷售推廣。PredPol公司沒有做出任何回應。

有些市政府表現得很積極。賓州阿雷格尼郡報告顯示，該郡正在開發測試一套演算法，以幫助兒童福利工作者決策是否要對某起兒童虐待行為進行調查。該郡民政部門已委託紐西蘭奧克蘭理工大學進行研發。

古教授說，對於利用演算法預測政府決策行為的負面效應，大多數政府並沒有表達出足夠專業的認知。

馬里蘭大學法學教授丹尼爾·西特龍說，有必要通過各州檢察長、訴訟案件當事人乃至立法機構給地方政府施加壓力，讓他們謹慎考慮和使用此類演算法工具。學者們相信，預測工具在政府層面會越來越流行，且演算法也會越來越複雜。「到時候就更難辦了。」古教授說。