iPhoneiOS苹果公司 (Apple Inc.)数码热点科技热点

如何看待苹果 iOS 15 扫描用户相册行为,是否侵犯隐私?

问题描述

苹果 iOS 15 会扫描用户相册,获取每张哈希值,然后与儿童色情图片比对,如果有儿童性虐待的违规图片,就会向执法部门报告。这个行为旨在扩大对儿童的保护。但此举并没有得到广泛支持,甚至遭到包括 4000 多家组织以及个人的公开反对。

苹果副总裁承认其扫描功能会让用户有所担忧,但将保证隐私承诺 - IT之家

地铁风
不会撸程序的设计狮不是好科研狗

从一开始泄露出来的消息来看,这个系统是这样的:

  • 计算照片的某种 hash,并上传 hash,iCloud 和本地照片都有。
  • 对于匹配的照片进行人工审核。

这年头上传 hash 这件事基本就不是事,涉及到隐私的部分在「人工审核」这里。人工审核肯定不是审核 hash 了,必然要上传照片本身(当然水果并没有说,我猜的)。那么水果凭什么偷偷上传你的照片本片呢?肯定是要在用户协议里偷偷加东西了。

但是!!!

这件事最可怕的点不在这,而是

  • 水果把所有人都当成潜在的儿童色情罪犯
  • 如果某国要求水果扫描用户的政治性图片并上报怎么办?

当然了这两个问题在我国都不存在。


后来水果发布了一个 FAQ,并且某高管接受了一个采访,透露出了另外一些信息:

  • 匹配 hash 的过程发生在本地,hash 不上传。而且这个匹配是「非常准确」。
  • 只匹配 iCloud 上的照片,用户可以通过关闭 iCloud Photo 来 opt-out。
  • 在孩子的 iMessage 里自动识别 18+ 内容。这个家长需要 opt-in。这个和上面那个儿童色情匹配无关,是个独立的功能。

所以至少这些功能是可以关闭的。但是这点很奇怪⋯⋯

  • 既然匹配是在本地,为什么不同时也匹配本地非 iCloud 照片?非 iCloud 的儿童色情就不是儿童色情了?水果不关心儿童安全么?
  • 为什么允许 opt-out?Opt-out 的儿童色情就不是儿童色情了?水果不关心儿童安全么?

另外在采访里,记者连续问了三个同样的问题,就是如果政府要求水果识别除儿童色情以外的照片,水果怎么办。水果在第三个问题的时候才稍微沾点边地回答了这个问题:这个功能只在美国启用,在美国的法律框架下政府很难强迫水果加入识别合法内容的功能。那么如果某国政府要求水果加入其他识别功能呢?水果的回答是这样的:

我们的操作系统是全球统一的,所以我们无法单独为一群人加入某个功能。

哪尼???你刚刚不是才说了识别儿童色情这个功能只在美国有么???你可以在全球加入这个功能然后只在某国开启啊?????所以实际上水果是承认了他们会在政府的要求下加入其他识别功能。

不过我们也不用过于担心,毕竟我国有云上贵州,不需要这个功能,嗯。

总之这件事就是很奇怪⋯⋯

UPDATE 0:我在看其他回答和评论的时候突然发现一件事,就是很多人认为政府侵犯隐私不算侵犯隐私,公司侵犯才算。不评论。

UPDATE 1:请大家观赏这个 thread 哈哈⋯⋯

UPDATE 2: 安全大触 Shneier 的 blog 文章,摘录:

This is pretty shocking coming from Apple, which is generally really good about privacy. It opens the door for all sorts of other surveillance, since now that the system is built it can be used for all sorts of other messages. And it breaks end-to-end encryption, despite Apple’s denials

69 赞同 7 感谢 3 收藏 36 条已备份评论 发布于 2021-08-10 知乎原页 ↗

评论 36

云上贵州是什么意思能解释一下吗
0 赞
灰心宝宝回复 阿泰
中国的用户数录信息不会传到美国,而是储存在云上贵州有限公司
9 赞
西兰花回复 阿泰
苹果中国用户数据不进美国,而是进入到一家国家指定的云上贵州由中国自行保管。
8 赞
七只海马回复 西兰花
云上贵州太关键了,当时还被一堆人骂,另外如果我的手机登录过美区apple账号,会把我的相册数据传过去吗?
1 赞
西兰花回复 七只海马
当时正是国产手机和app厂商不把用户当人的时代,那时候不被信任很正常。
1 赞
Yichen 在西海岸回复 七只海马
接下来的问题就是我们的政府对云上贵州的数据有多大权限……
3 赞
月是故乡明回复 Yichen 在西海岸
这个我觉得无所谓啊。。你只要不违法,怕啥
1 赞
月是故乡明回复 Yichen 在西海岸
数据不受监管是不太可能的。。
0 赞
地铁风回复 月是故乡明作者
只要不犯法,政府拍裸照也无所谓啊~~
0 赞
安平回复 Yichen 在西海岸
有权限这个概念吗?“请配合调查”
2 赞
逃荒中的一个人
该功能只适用于美国本土的iCloud照片。
0 赞
反正云服务直接假定不值得信任,任何我认为重要的数据都必须存在我的本地,百度网盘(目前处于垄断地位的面向个人的网络存储供应商)在此方面劣迹斑斑
9 赞
行行好吧 152回复 astrojhgu
某盘要存文件其实也还好,只要全打成压缩包,密码设置成没有特征的16位以上大小写加数字符号就基本安全了,反正我之前存大文件是这么干的
0 赞
MadMax回复 行行好吧 152
我也这么干过,后来密码不见了[捂脸]
0 赞
“既然匹配是在本地,为什么不同时也匹配本地非 iCloud 照片?”这个似乎是因为在美国,云服务供应商储存儿童色情照片是违法的,所以Apple才会对iCloud相册增加这个功能进行检测。其实意思就是你储存是你的事儿,但是别来祸害我的iCloud。
13 赞
Steve回复 Shawn
那为啥不直接用iCloud服务器扫,你用我本地设备扫鬼知道除此之外还干了啥
0 赞
Shawn回复 Steve
估计是考虑到Hash对比消耗的算力问题吧,瞎猜的。
0 赞
lslqtz回复 Shawn
我也是这么觉得的,也有可能云端扫描让人不放心?
0 赞
知乎用户7Otc7w回复 Steve
因为iCloud上的照片都是加密的,只有存储在你本机的密钥才能解密,至少苹果是这么说的,所以这个比对要在本地上传云端的过程中进行,匹配合适之后苹果会给你发个通知详细描述你这个照片怎么回事然后进行人工审查,最终决定要不要封号,这就是整个系统的全过程
1 赞
Steve回复 知乎用户7Otc7w
如果只有本机密钥才能解密的话,那iCloud相册也没法设备间同步了
0 赞
咕咕咕回复 知乎用户7Otc7w
你说错了,iCloud相册并不在端到端加密之列,iCloud账户本身就可以解密
0 赞
匹配 hash 的过程发生在本地,hash 不上传。而且这个匹配是「非常准确」。
那意味着本地有一个十分大十分全的hash库,那么我是在花钱给苹果公司买存储和算力么?
0 赞
地铁风回复 Lewis作者
只要存储 CSAM 的 hash 就行了,当然我也不知道里面到底有多少 hash⋯⋯
0 赞
地铁风回复 Lewis作者
正好刺激你买大容量的型号~~



不过应该没有 100 万个吧⋯⋯
0 赞
什么鬼…那我的水果手机里一直有一张我小时候的漏鸡鸡照,我去美国玩一圈就有可能会被当做恋童癖抓起来?
0 赞
地铁风回复 crops作者
原则上不会,因为你的漏鸡照不在 CSAM 数据库里
⋯⋯
⋯⋯
⋯⋯
⋯⋯
吧?
0 赞
crops回复 地铁风
哦…我以为是人工智能识别呢,原来是和数据库做对比啊…
0 赞
V科技回复 地铁风
那数据库里没有的童车就不会被抓吗?
0 赞