为了保护儿童,苹果要“扫描”用户相册这一次选择 手机为什么扫描不到wifi( 二 )


用科技赋能是值得受到认可的,因为它真的能够做到人工所不能做到的 。
比如同样是儿童性虐照片检测,谷歌就曾在2018年推出一款名为ContentSafetyAPI的内容排查工具包,能够大规模地识别和报告网络上儿童性虐待信息材料(CSAM),减轻了分析师的工作负担,以及将这个工作变得更加有效率 。
又比如在国内,基于AI人脸寻人技术,不少被拐儿童得以在十数年,甚至更长时间之后找到回家的路 。
但可以注意到,以上两个案例过程中,并未过多涉及个人用户的隐私安全,也达到了当初项目启动的目的 。
事实上,为了隐私安全,苹果也进行了一系列保护措施,比如使用哈希算法进行加密 。
但过程中依旧存在被攻破的危险,尤其对于本就没有设置端到端加密的iCloud而言 。届时,一旦被攻破,黑客就完全可以获取到用户的隐私照片 。
而即便没有泄露,一旦出现误报,就意味着负责二次审核的人工将能够看到用户的照片,并且还是无关儿童性虐的照片,这也相当于侵犯用户隐私了 。
这就相当于高空走绳,只有找到那个平衡点,苹果才能把CSAM项目很好地继续实施下去 。

推荐阅读