翻譯:游濰綾

編輯:開放文化基金會

蘋果的新程式具備掃描使用 iMessage 傳送之圖像的功能,這對以往表示會優先支持加密訊息的隱私和安全的蘋果公司可以說是後退了一大步。這套一開始只運行於美國的程式限縮了我們對端到端加密的理解範圍,藉此允許程式對客戶端進行內容掃描。雖然蘋果的目標是消除兒童剝削與虐待,但該公司已經創建了一套極容易被用來進行更大規模言論監控與審查的基礎設施。此程式將使蘋果公司防止程式不會被用在其他更廣泛的需求上更加困難。

多年來,世界各國都不斷要求獲得加密訊息的瀏覽與控制權限,並在收到「公開訪問這些訊息與強加密之理念不符」的反駁時,要求各家科技公司「要加倍努力」。蘋果的兒童安全訊息掃描計劃目前只在美國推出。

JOIN THE NATIONWIDE PROTEST

TELL APPLE: DON'T SCAN OUR PHONES

美國政府從未避諱嘗試取得對加密通訊的訪問權,並屢屢對企業施壓以求更容易透過搜查令取得資料,抑或是促使這些企業主動將資料上繳。然而,美國政府若想通過一條律文以合法化不具搜查令的內容篩檢與通報,勢必將面臨嚴重的違憲問題。任何由政府下令的搜查,就算是交付私人第三方進行作業,仍應受到第四修正案的保護。任何針對無嫌疑群體而發佈的監視「搜查令」,都將成為違憲的一般搜查令。根據美國聯邦第九巡迴法院解釋:「搜查令……在根本上違反了第四修正案的潛在規則,其用語是如此豐富和廣泛,甚至建構出一張虛擬的、包羅萬象的天羅地網。」推出這項計劃代表著蘋果在面對美國破壞加密環境的法律時,已無法堅守原則,但憲法干預仍能避免某些最糟糕的越權情況發生。然而,美國的憲法保障並非在所有國家都能實現。

蘋果是一家跨國企業,其推出的手機與電腦被全世界使用,政府施壓也隨之而來。蘋果曾保證它將拒絕政府「針對打造與部署由政府授權且會損害使用者隱私權之更動的要求」。蘋果的「不為誰打造」值得嘉許,但其保護力遠不及「不能」,儘管「不能」在這類系統中實屬難以企及。此外,在推出該項更新之後,蘋果不只必須為隱私權抗爭,更需要與全世界的立法機關與法院角力。若欲信守承諾,蘋果將必須抵抗將 iMessage 掃描程式擴展到新國家、新增掃描內容或是進行親子關係外通報的壓力。

極權國家要求企業提供加密訊息的瀏覽與控制權限一事並不稀奇,儘管加密訊息已是政府批判者用以集會與交流的最後希望。舉例而言,公民實驗室的研究指出,現今中國的非加密微信服務正監視著由使用者分享的圖像與檔案,並藉此訓練審核演算法。「若一位微信使用者想傳送訊息給另一位使用者,該訊息在被接收之前會先經過由騰訊(微信的母公司)管理的服務器,並由其偵測該訊息中是否含有黑名單關鍵字。」來自史丹佛大學網路觀測計畫的莉亞娜菲佛柯恩解釋,這類技術正是一張展示「如何唆使一套原本只為了CSAM(兒童性虐待資料)而打造的客戶端掃瞄系統成為言論審核與政治迫害工具」的路線圖。如蘋果所見,中國與其龐大的市場令人難以抗拒。其他國家也並不避諱對企業高度施壓,手段甚至包含逮捕這些企業的當地員工

然而更多情況下,這些意圖取得加密資料的巨大壓力,竟是來自理應捍衛法治的民主國家政府,至少在初期階段是如此。如果各企業在這些國家中無法堅守原則,這些民主體制較弱且人權紀錄貧乏的國家政府,將能輕易複製這些用以破壞加密的更動,它們通常使用類似的法律用語,背後卻含有對公共秩序、國家安全以及何謂不當內容——包含淫穢、猥褻,甚至政治發言——的不同見解。這實在非常危險。這些人權紀錄貧乏的國家將辯稱這些議題之間不無差異,它們身為主權國家,維持國內的公共秩序的急迫性同等重要。它們也將辯稱若蘋果根據當地法律提供了任何國族國家 (nation-state) 瀏覽權限,那蘋果也至少必須在同樣的條件下提供其他國家 (countries) 瀏覽權限。

「五眼聯盟」國家將爭取掃描訊息的機會

舉例而言,五眼聯盟——一個由加拿大、紐西蘭、澳大利亞、英國及美國所組成的情報聯盟—— 2018 年就警告過,若各企業不主動提供加密訊息的瀏覽權限,它們將「透過科技、執法、立法或其他手段爭取合法取得權限的解方」。近期,五眼聯盟的藉口從恐怖主義轉移到了防止 CSAM 上,但針對獲得解密後瀏覽權限的訴求依舊不變,而五眼聯盟在成功取得能協助恐怖分子與犯罪調查的更動之前就收手的機率更可說是微乎其微。

英國的調查權力法案接續了五眼聯盟的威脅,賦予了國務卿發佈「技術能力通知」的權力,該通知將強制電信營運商具備「為執行攔截令、設備干擾令、獲取通訊資料的搜查令或授權提供協助」的技術能力。在英國議會考慮這項法案時,我們便提出了警告:「一家企業可能會被迫發布更新以促進設備干擾令的執行,並被命令不得通知其客戶。」

調查權力法案下,國務卿必須考慮「服從法院通知的技術可行性」。然而,蘋果該項更新所需的基礎設施,如今使追加監控的技術可行性不再難以企及。我們擔心英國政府或將利用蘋果的新計劃來強制更新並擴展現有的 iMessage 掃描功能,包含追加不同的演算目標及範圍更廣的通報。由於 iMessage 的「安全交流」功能完全是蘋果的獨家發明,蘋果要改變其標記與通報標準簡直是易如反掌,蘋果或需奉旨將其現有的 iPhoto 雜湊值配對技術應用在訊息預先掃描上。同樣的,哪些帳號適用掃描功能,配對成功的案例要如何通報,這些都完全在蘋果的掌控之中。

澳大利亞也效仿英國推出了援助與訪問法案,該法案同樣允許政府發出對技術支援與能力的要求,並同樣潛在可破壞加密環境的、令人不安的可能性。儘管該法案設有部分防護措施,一整個聯盟的公民社會組織、科技公司、貿易公會、EEF,以及——想不到吧?蘋果公司,都曾指出這些防護措施的不足。

的確,蘋果在向澳洲政府提出的文件中就曾警告:「政府可能會設法強迫供應商安裝或測試軟體與設備,以達到獲得顧客裝置的瀏覽權限、翻轉源代碼、移除電子保護措施、修改服務特性、替換服務等等諸如此類的目的。」只希望蘋果記得這些技術也能被用在嘗試授權或更改它的掃描程式範圍。

雖然加拿大尚未明文通過簡訊存取的要求,但該國政府也正在積極推動各線上平台的過濾義務,這也引發了一系列針對私人訊息應用程式的、更激進的義務要求。

審核政權正在蠢蠢欲動

五眼聯盟的訴求主要為提升監視能力,但印度和印尼已經走上了內容審查的滑坡謬誤。印度政府在今年稍早生效的新中介指南和數字媒體道德準則(《2021 規則》)中就直接對平台預篩選內容提出了危險的要求。 規則 4 (4)強制了內容過濾的進行,並要求供應商「努力部署技術基礎措施」,包含自動化工具與其他機制,以「主動識別」被規則禁止的資訊。

印度為了回應三位聯合國特別報告員的批評而寫下了針對 2021 規則的辯護書,旨在強調兒童面對的真實危險,並省略了掃描和審查規則中廣泛的強制性。2021 規則強制要求內容刪除條款的主動和自動執行,並要求主動屏蔽目前在印度法律中被禁止的內容。這些法律廣泛涵蓋了保護「印度的主權性和完整性、國家安全、與外國的友好關係、公共秩序、體面與道德」等相關內容。這並不是無憑無據的滑坡謬誤——不難看出這類用語對言論自由和政治異議的危害。事實上,印度在其非法活動預防法案方面的記錄突出了這種危險,據稱,該法曾被用來逮捕領導集會與在社交媒體上發布政治訊息的學者、作家和詩人。

若印度政府主張蘋果的掃描程式在稍加調整以符合 2021 規則的更廣泛任務後會是合規的良好開端絕對不足為奇。蘋果已承諾將反對任何擴張要求,並表示其有權如 WhatsApp 和其他公司一樣在法庭上爭辯 2021 規則應該被廢除,或主張其並不符合 2021 規則中的社交媒體中介定義。但印度的法規說明了政府對預先篩選加密內容的渴望與法律支援手段,而蘋果的更新使其更容易陷入這樣的反烏托邦中。

不幸的是,這是一個不斷增長的趨勢。 印尼同樣也通過了 MR5 部長條例,要求服務供應商(包含「即時訊息」的供應商)「確保」他們的系統「不包含任何被禁止的資訊,且(中略) 不能幫助傳播被禁止的資訊」。 MR5 將被禁止的資訊定義為任何違反印尼法規或造成「社區焦慮」或「擾亂公共秩序」的資訊。 MR5 還實施了不成比例的制裁,包括全面封鎖對那些未能確實隔絕被禁止內容和訊息的系統。印尼也可能將 iMessage 的掃描功能視為符合 MR5 法規的工具,並迫使蘋果在該國採用更廣泛、更具侵入性的版本。

壓力即將增長

催促蘋果將其計劃擴展到更多國家和更多類型內容的壓力只會繼續存在。2020 年秋季,歐盟委員會的一系列外流文件預示著今年將向歐洲議會提出的反加密法。幸運的是,歐盟仍保有一套煞車機制。根據電子商務指令 (2000/31/EC) 15 條所述,歐盟成員國不得強制施加對使用者傳輸或存儲的資訊進行監控的義務。事實上,歐洲聯盟法院 (CJEU) 明確表示,中介機構不得以檢測和防止其用戶非法活動之名義被迫監控其服務。此種責任並不符合公平和比例原則。儘管如此,由 Politico 發布的一份外流內部文件指出,歐盟委員會已承諾了一項由相關線上服務供應商強制檢測 CSAM 的行動計劃(預計於2021 12 月發佈),該計劃將客戶端掃描及將其套用在加密私人訊息傳遞之應用程式上的可能性定為解決方案,並藉此保留端到端加密保護的理念。

對於不斷呼籲企業更加努力的政府決策者來說,更加努力地修飾文藻也能達到同樣的效果。擁有未加密訊息的存取權是他們的最終目標,如果能在保留狹義上端到端加密的情況下實現這一點,那麼對他們來說就再好不過了。

想擴大蘋果正在構建的狹窄後門只需要延伸機器學習的參數以尋找其他類型內容、將 iPhoto的雜湊值配對技術套用在 iMessage 上,或是稍稍調整掃描標記將目標從孩童帳戶擴散到所有帳戶。蘋果擁有一套完整打造的系統,等待著外部壓力來促使其做出必要的改變。中國和其他國家無疑已經擁有雜湊值和內容篩選器,來識別不被其法律所允許的訊息,即使它們理應受到國際人權法的保護。濫用的案例很容易想像:將同性戀犯罪化的政府可能會要求一個被訓練用來限制明顯 LGBTQ+ 內容的篩選器;一個專制政權則可能要求篩選器學習以辨認流行的諷刺圖像或抗議傳單。

如今,蘋果鋪好了路,他們就來了。儘管出於善意,蘋果仍為全球強制安全漏洞鋪了一條康莊大道,並藉此支持與強化了以下論點:只要意圖足夠良善,掃描你的個人生活和私人訊息就是可以被接受的。 我們呼籲蘋果重新考慮並回歸 2019 年拉斯維加斯 CES 大會廣告牌上令人難忘的蘋果口頭禪:在你的 iPhone 上發生的事情,將會留在你的 iPhone 上。

JOIN THE NATIONWIDE PROTEST

TELL APPLE: DON'T SCAN OUR PHONES

Translator: WeiLing Yu
Editor: Open Culture Foundation

Read further on this topic:

Related Issues