在日本動畫《PSYCHO-PASS 心靈判官》中，有一個名為「希貝兒先知系統」的強大監測網路，能夠主動掃描市民的心智與精神狀態，計算出所謂的「心靈指數」與「犯罪指數」，預測一個人犯罪的可能性。
如果指標超過門檻值，即使尚未犯案，此人也會被警方追捕甚至就地處決。
像這樣反烏托邦式的科幻設定，在虛構的影視中時常被採用，例如《黑鏡》、《關鍵報告》以及上述的《心靈判官》等。但隨著科技持續進步，仰賴 AI 進行社會安全管理的未來，或許真的快要到來？
非營利研究機構 Statewatch 日前揭露的政府文件顯示，英國司法部正在秘密進行一項「殺人預測計畫」（Homicide Prediction Project），企圖通過分析大量個人資料，預測哪些人可能會在未來犯下謀殺罪行。
這個殺人預測系統使用英國司法部、警察國家電腦系統以及大曼徹斯特警察局的資料進行所謂的「殺人風險評估」，大曼徹斯特警察局已向該計畫提供了 10 萬至 50 萬人的個人資料。
大曼徹斯特警方提供的資料，包含嫌疑人、受害者、目擊者、失蹤人口，以及有安全顧慮者的資訊。
英國司法部表示，健康標記數據預期具有顯著的預測力，這些資料還涉及人們的心理健康、成癮情況、自我傷害、自殺、脆弱性和殘疾等敏感資訊。
研究文件透露，司法部數據科學團隊會「開發模型」，尋找資料中強大的殺人風險預測因子，並提及這個犯罪預測系統未來可能會開始運作。
Statewatch 研究員 Sofia Lyall 也對此表示「毛骨悚然」且「反烏托邦」。但更令人擔憂的是，透過 AI 演算法打造的犯罪預測系統，會讓即使尚未犯罪的人也可能被系統評為「高風險」，並遭受不必要的監控：
「研究多次表明，用於預測犯罪的演算法系統本身有缺陷。然而，政府卻在大力推動 AI 系統，該系統能夠在人們做出任何行為之前就將其定性為罪犯。」
司法部自己進行的研究發現，再犯罪預測工具「罪犯評估系統」（OASys）對黑人罪犯的預測準確度低於白人罪犯，但目前這項系統已被用於量刑決定、監獄分類和假釋決定。
Lyall 批判，利用英國帶有制度性種族歧視的警察及內政部數據的模型，將強化並放大刑事法律系統中的結構性歧視，而使用有關心理健康、成癮和殘疾的敏感數據，更是極度侵犯人民的隱私。
從倫理道德的角度來看，將某個人打上「潛在殺人犯」的標籤，可能造成難以撫平的社會烙印，尤其目前的預測技術仍然有偏見和不準確的情形。
當犯罪難以避免，但政府在消減社會福利同時，還妄想能用科技解決一切時，可能會出現治標不治本的問題。
Statewatch 研究員就呼籲：
「英國司法部必須立即停止進一步發展殺人預測工具。政府不應花錢開發有問題且帶有種族歧視的 AI 和演算法，而應投資於真正有支持性的社會福利服務。」
如果透過 AI 監視社會的未來成真，那麼《PSYCHO-PASS 心靈判官》的劇情，可能將成為一種驚悚的未來預言。
隨著《衛報》等主流媒體對這份研究進行報導，公眾討論已經展開，人們開始思考：「當科幻小說和動畫中的情節逐漸走入現實，我們的社會準備好了嗎？」而在被系統長期控制的社會中，人們的自由與選擇權又該如何被維護？
