menu Thinking Null
老大哥在看着你:苹果已经打开了全世界加强对用户监视和审查的潘多拉魔盒
2021-08-13   网络安全   暂无评论   450 次阅读
原文出自 EFF If You Build It, They Will Come: Apple Has Opened the Backdoor to Increased Surveillance and Censorship Around the World 有删改。原文使用 CC BY 3.0 US 许可
本文为中文翻译版本,使用 CC BY-NC-SA 4.0 许可

苹果公司新推出的扫描iMessage上发送的图片的计划

与该公司之前对加密信息的隐私和安全的支持有所退让。该计划最初只在美国实行,允许客户端扫描狭隘化了对端到端加密的定义。虽然苹果公司的目标是消除儿童虐待的问题,但该公司已经创建了的基础设施,很容易导向更大的监控和审查。该计划将破坏苹果公司的防线以至于它不能遵守更广泛的要求。

多年来,世界各国都要求访问和控制加密信息。当面临访问明文消息强加密不兼容的阻力时,要求技术公司更加"努力"。苹果公司的儿童安全保护信息扫描计划目前只在美国推出。

美国并不羞于索要读取加密通信的权限,并向各公司施压,使其更容易得到授权令获取数据并让公司自愿交出数据。然而,如果美国想通过一项要求无证筛选和报告内容的法律,它将面临严重违宪。即使是由私人进行的,由政府下令进行的搜查也要受到宪法第四修正案的保护。任何为无嫌疑的大规模监控而签发的 "搜查令 "都是违宪的一般搜查令。正如第九巡回上诉法院所解释的那样,"搜查令......从根本上违反了第四修正案的基本原则,因为它们的语言是如此丰富和广泛,以至于构成了一个虚拟的、无所不包的大网[.]。" 随着这项新计划的通过,苹果公司未能对美国破坏加密的法律施加强有力的对策,但对一些最糟糕的过度行为仍有宪法的支持。但美国的宪法保护不一定能在每个国家复制。

苹果公司是一家全球性公司,其手机和电脑在世界各地都有使用,许多政府的压力也随之而来。苹果公司已经承诺,它将拒绝政府 "建立和部署政府授权的、降低用户隐私的变化的要求"。苹果公司说它不会这样做,这是好事,但这还不如说它不能这样做来的更有力,对这种类型的任何系统都不能这么说。此外,如果它实施这一改变,苹果将需要的不仅仅是为隐私而战,而是在世界各地的立法机构和法院中获胜。为了履行承诺,苹果将不得不克服压力,将iMessage扫描程序扩展到新的国家,扫描新类型的内容,并向外部报告父母与子女之间的关系。

专制国家要求公司提供对加密信息的访问和控制并不奇怪,而端到端加密往往是持不同政见者组织和交流的最后希望。例如,公民实验室的研究表明--现在--中国的未加密的微信服务已经在监视用户分享的图像和文件,并利用它们来训练审查算法。"当一条信息从一个微信用户发送到另一个用户时,它要经过腾讯管理的服务器,在信息发送到收件人之前,检测信息是否包括黑名单上的关键词。" 正如斯坦福大学互联网观察站的Riana Pfefferkorn所解释的,这种类型的技术是一个路线图,显示了 "最初只为CSAM [儿童性虐待材料] 建立的客户端扫描系统如何能够并将被用于审查和政治迫害
就像苹果公司所发现的那样,中国拥有世界上最大的市场,可以说是难以拒绝。其他国家也不吝于对公司施加极端压力,包括逮捕科技公司的当地雇员

但很多时候,访问加密数据的强大压力也来自努力维护法治的民主国家,至少在一开始是这样。如果公司未能在这些国家守住底线,那么为破坏加密而做出的改变就很容易被民主制度较弱、人权记录较差的国家所复制--通常使用类似的法律语言,但对公共秩序和国家安全,以及什么是不允许的内容(从淫秽色情到政治言论)有不同的要求。
这是很危险的。这些国家的人权记录很差,但它们会辩称自己没有什么不同,也是主权国家,并将把他们的公共秩序需求视为同样紧迫。他们会争辩说,如果苹果公司根据任何主权国家的当地法律向其提供访问权限,那么苹果公司也必须向其他国家提供访问权限,至少在同样的条款下。

“五眼”国家将谋求扫描信息

例如,加拿大、新西兰、澳大利亚、英国和美国情报部门的联盟--五眼联盟在 2018 年警告说,如果这些公司没有自愿提供对加密消息的访问权限,他们将采取技术、执法、立法或其他措施来实现合法访问“解决方案” 。 最近,五眼联盟已从恐怖主义转向防止 CSAM 来作为监听的理由,如果不改变以协助恐怖主义和刑事调查,五眼联盟不太可能得到满足。

英国的《调查权力法》贯彻了 "五眼 "的威胁,允许他们的国务大臣发布 "技术能力通知",要求电信运营商具备 "执行拦截、干扰设备或获取通信数据”提供帮助的技术能力。在英国议会审议《知识产权法》时,我们警告说,"公司可能被强迫分发更新,以促进设备干扰令的执行,并被命令不要通知他们的客户"。

根据 IPA,国务卿必须考虑 "遵从通知的技术可行性"。但是由于部署 Apple 提议更改了基础设施,使得额外的监视在技术上可行。有了苹果的新方案,我们担心英国可能会试图强制更新,扩大iMessage扫描程序的现有功能,采用不同的算法,目的是获得更广泛的报告。由于iMessage的 "通信安全"功能完全是苹果公司自己发明的,苹果公司可以很容易地改变自己的标准,即哪些内容将被标记为上报。苹果可能会收到命令,将其iPhoto的哈希匹配纳入信息预检。同样,哪些账户将采用这种扫描的标准,以及哪些地方会被报告,完全在苹果的控制之下。

澳大利亚紧随其后制定了《援助和访问法》,该法同样允许要求提供技术援助和能力,有可能破坏加密技术,令人担忧。虽然该法案包含一些保障措施,但由民间社会组织、科技公司和贸易协会组成的联盟,包括EFF和......--等等--苹果自己解释说这些保障措施是不够的。

事实上,在苹果公司自己提交给澳大利亚政府的文件中,它警告说:"政府可能会想办法迫使供应商安装或测试软件和设备,为访问客户设备提供便利,交出源代码,删除电子保护形式,修改服务的特点,或替代服务,以及其他事项。" 要是苹果公司愿意,这些技术也可以用来试图强制或改变苹果公司的扫描程序的范围。

虽然加拿大尚未表现出对纯文本访问的明确要求,但加拿大政府正在积极要求各种在线平台承担过滤义务,这展示了针对私人消息应用程序的制定一套更激进的措施的可能性。

审查制度已经到位并准备就绪

对于 "五眼 "来说,这个要求主要是为了提升监视能力,但印度和印度尼西亚已经在向内容审查的方向滑行了。印度政府新的中介指南和数字媒体道德准则("2021规则")在今年早些时候生效,直接对平台提出了预先筛选内容的危险要求。第4(4)条强制要求进行内容过滤,要求供应商 "尽力部署基于技术的措施",包括自动化工具或其他机制,以 "主动识别" 规则所禁止的信息。

印度对2021年规则的辩护,是为了回应三位联合国特别报告员的批评而写的,主要强调为了应对儿童可能遇到的危险,而跳过了扫描和审查规则中更广泛的任务。2021年的规则对其内容删除的规定进行了主动和自动的执行,要求主动屏蔽以前被印度法律认为是禁止的材料。这些法律广泛包括保护 "印度的主权和完整;国家的安全;与外国的友好关系;公共秩序;体面或道德"。这不是假想的滑坡----不难看出这种语言对表达自由和政治异议造成的威胁。事实上,印度在《非法活动预防法》方面的记录突出了这种威胁,据说该法被用来逮捕组织集会和在社交媒体上发布政治信息的学者、作家和诗人。

如果印度声称苹果公司的扫描程序是合规的一个良好开端,需要再做一些调整以应对2021年规则的更广泛的任务,这并不奇怪。苹果承诺抗议任何得寸进尺的要求,并且可以像WhatsApp和其他公司一样在法庭上争辩说,2021年的规则应该被废除,或者苹果不符合2021年规则所规定的社会媒体中介的定义。但印度的规则说明了政府对加密内容进行预审的愿望和法律层面的支持,而苹果的变化使其更容易滑向反乌托邦。

不幸的是,这是一个不断增长的趋势。印度尼西亚也通过了部长条例MR5,要求服务提供商(包括 "即时通讯"提供商

"确保"其系统"不包含任何被禁止的[信息];并且[...]不为被禁止的[信息]的传播提供便利"。

MR5将违禁信息定义为违反印度尼西亚法律法规的任何规定,或造成 "社区焦虑 "或 "扰乱公共秩序 "的任何内容。MR5还规定了不相称的制裁措施,包括对产生违禁内容和信息的人进行全面封锁。印度尼西亚也可能将iMessage扫描功能视为遵守MR5法规的工具,并向苹果公司施压,要求其在本国采用更广泛、更具侵略性的版本。

暗流涌动

将 Apple 的计划扩展到更多国家和更多类型内容的压力只会继续存在。 2020 年秋季,在欧盟,欧盟委员会的一系列泄露文件预示着可能在今年将向欧洲议会提出反加密法。幸运的是,欧盟有一个保障法令。如电子商务指令 (2000/31/EC) 第 15 条所述,欧盟成员国不得强加对用户传输或存储的信息进行监控的一般义务。事实上,欧盟法院 (CJEU) 已明确表示,中介机构可能没有义务以一般方式监控其服务以检测和防止其用户的非法活动,因为这种义务将不符合公平性和相称性。尽管如此,在 Politico 发布的一份泄露的内部文件中,欧盟委员会承诺了一项由相关在线服务提供商(预计在 2021 年 12 月)强制检测 CSAM 的行动计划,该计划指出客户端扫描是解决方案,这可以可能适用于安全的私人消息传递应用程序,并利用它破坏端到端加密保护。

对于那些一直敦促公司 nerd harder (?翻译不来)的政府决策者来说,编造花言巧语也是一样的。获取未加密通信才是最终目标,如果能以一种狭义上来说是端到端加密的方式来实现,对他们来说就更好了。

扩大苹果正在建立的狭窄的后门,所需要的只是扩大机器学习参数,以寻找更多类型的内容,将iPhoto的哈希值匹配到iMessage,或调整配置来扫描,不仅是儿童的,而是任何人的账户。苹果有一个完整的系统,只是在等待外部压力来进行必要的改变。中国和其他国家显然已经有了哈希值和内容过滤器来识别其法律所不允许的信息,即使这些信息受到国际人权法的保护。滥用案例很容易想象:取缔同性恋的政府可能要求分类器接受培训,以限制明显的LGBTQ+内容,或者一个专制政权可能要求过滤器能够发现流行的讽刺图片或抗议传单。

既然苹果已经建立了它,它们就会来。出自"好心",苹果已经为世界各地强制削弱安全性铺平了道路,并强化了这样的观点:如果真是出于”好心“,扫描你的个人生活和私人通信是可以接受的。
让我们敦促苹果公司重新考虑,回到苹果公司在2019年拉斯维加斯的CES会议上令人难忘的广告牌上的口号。

发生在你的iPhone上的事情,就留在你的iPhone上。

What happens on your iPhone, stays on your iPhone.

本篇文章采用 署名-非商业性使用-相同方式共享 4.0 国际 (CC BY-NC-SA 4.0) 许可协议进行许可。

转载或引用本文时请遵守许可协议,注明出处。

发表评论
暂无评论
textsms
account_circle
email
link