两年后，客户侧扫描隐私风险论文发布，政府是时候采取行动了

发表于2024年2月14日，由 Glyn Moody 发表

早在2021年，我们就曾提到由包括罗斯安德森、惠特菲尔德迪菲、罗纳德L里维斯特、布鲁斯施奈尔等13位世界顶尖安全专家撰写的一篇重要预印本。该论文关注儿童性虐待材料CSAM的问题，以及使用客户侧扫描CSS来应对这一问题的想法即在智能手机上运行的代码，持续扫描图像以寻找非法内容。专家们对这一方法将对隐私造成的危害毫无疑问，他们写道：“在我们的个人设备上引入扫描这些设备存储从待办事项到亲友的短信和照片的信息将刺破个人公民的隐私之心。”

该预印本现已在网络安全杂志上正式发表。在这两年间，关于CSS的争论并未减弱，并且文章中增添了一个新的部分，反映出了一项重要的发展。2022年5月，欧洲委员会发布了一项提案，“设定规则以防止和打击儿童性虐待。”

像许多有争议的立法一样，该提案要求在线公司采取行动在本案中，要求其识别已知和“以前未见”的CSAM，但没有具体说明该如何进行。尽管这被包装为“一种技术中立的方法”，但实际上只是掩盖了没有人知道如何在不破坏加密的情况下可靠地检测CSAM的事实，而欧盟宣称支持这种加密。正如安全专家在他们关于欧盟提案的新部分中所指出的：

“尽管拟议的法规特别支持端到端加密，指出其是“确保用户通信包括儿童安全和保密的重要工具”，但现实是，对于可能存在或不存在于加密消息中的图像，没有可行的解决方案。因此，该提案中的技术能力不能在不使用CSS或放弃端到端加密的情况下满足。这只剩下客户侧扫描，而该提案对此完全保持沉默。但正如我们在此观察到的，这种“解决方案”无法奏效。因此，即使不考虑加密或CSS，该计划也无法在目前的技术条件下实施。”

欧盟模糊的计划实际上强制要求CSS，这使得新发布的论文更具重要性，探讨了其诸多问题。先前的PIA博客文章解释了用于图像扫描的两种主要技术感知哈希和机器学习并深入分析了使用它们在客户端进行监控的特定安全风险。在这里，我想重新探讨这项重要工作，特别关注明确讨论隐私的部分。CSS对隐私的最明显威胁之一是：

“CSS的部署彻底改变了游戏，因为它使用户设备上存储的数据可被访问。首先，它通过提供规模经济，促进全球监控。其次，尽管提案通常被表述为针对特定内容，例如CSAM，或用户共享的内容如用于诱拐或恐怖主义招募的短信，但重新配置设备上的扫描器以报告任何目标内容的变化微乎其微，无论其是否有分享意图或甚至是否备份到云服务。这使得在没有搜查令或怀疑的情况下，对个人设备进行任意内容的全球搜索成为可能。在下一次恐怖主义恐慌到来时，只需一些推动就能缩减或取消当前的保护。自动报告为扩大此类攻击提供了一种手段。”

这是客户端扫描带来的根本隐私问题。一旦设计了扫描设备上材料的代码，就没有什么能阻止其逐步甚至隐秘地进一步扩展。这可能包括扫描设备上的每一项服务和存储，而无需经由司法系统获得许可。由于扫描软件会一直在运行且不可见，人们甚至不会知道什么被扫描过，或者什么已被发送回中央服务器。

另一个明显的威胁是目标材料的扩展。政治家们利用打击CSAM来获得支持，因为没有人会反对此问题的解决。但一旦CSAM扫描器投入使用，这项技术很容易被重新用于寻找其他材料。实际上，有多种方法可以做到这一点。授权方可以通过要求服务提供商、创建目标内容列表的目标材料提供商，或训练机器学习模型的提供商添加新材料来扩展搜索。未授权的方也可以通过贿赂、胁迫员工或者入侵他们使用的计算机等非法手段来实现。

这个威胁在已经利用互联网抑制政治辩论并监听对手的国家尤为令人担忧。一旦CSS技术嵌入操作系统和设备，修改搜索列表将变得简单，这就是说压制性政府可以迅速要求屏蔽或追踪额外的术语。软件和硬件公司将几乎没有选择，只能遵从：如果不这样做，他们将面临包括罚款、禁令甚至当地员工入狱的多种惩罚措施。目前阻止这一现象的唯一因素是现有模型中没有CSS的能力。一旦它存在，几乎可以肯定会被滥用。

令人感到沮丧的是，自原始预印本发布两年来，关于CSS的争论并未取得进展。关于该技术及其弱点的基本事实没有变化，而保护数字隐私的重要性随着诸多原因而与日俱增，正如论文作者所解释的：

“在一个我们的个人信息以比特形式存储在我们口袋里强大通信和存储设备上的世界中，技术和法律必须旨在保护我们的隐私和安全，而非侵犯它。强有力的保护需要技术和法律相辅相成。CSS将严重削弱这一点，使我们所有人都变得不那么安全。”

是时候让各国政府认清这一点，并转向其他方法，以应对儿童性虐待问题那些不涉及破坏加密或在我们口袋中放置监控器的方法。