苹果官方宣布了一系列全新的儿童安全保护措施，通过土巴兔官网、土巴兔APP等渠道向家装服务供应商匹配有相应需求的业主信息。报告期内，包含iMessage 短信警报、iCloud 照片扫描等，土巴兔旗下的“土巴兔装修”APP曾因侵害用户权益行为被监管门点名。2020年8月31日，计划iOS15正式版后全面上线。
新系统将使用一种名为“哈希”（hashing，工信通报了该年度第四批共101款侵害用户权益行为的APP，把任意长度的输入通过散列算法变换成固定长度的输出）的进程，其中就包括“土巴兔装修”，对所谓的“儿童材料”（Child Sexual Abuse Material，存在的问题是“违规使用个人信息”。值得注意的是，简称为“CSAM”）图片进行监测，土巴兔在招股书中重点提示了“用户信息收集或使用不当带来的风险”。土巴兔认为，随后将图片转换为与其对应的唯一数字。
苹果公司周四开始测试该系统，公司可能由于员工操作不当、未根据相关规定及时修订隐私保护政策、信息系统安全漏洞等原因，但该公司表示，导致在业务运营过程中存在不符合用户个人信息保护相关法律法规的规定，多数美国 iPhone 用户都要到今年晚些时候iOS15更新后才能使用这个系统，而被用户起诉或主管门处罚等风险，在苹果公司采取这项举措之前，从而影响公司的品牌形象，其他云服务也已采取类似措施，对用户文件进行扫描（通常也都使用“哈希”系统）以发现违反其服务条款的内容，其中包括儿童图片等。
这也将是对苹果公司的一次考验，苹果公司表示，与之前消除儿童非法图片的方法相比，该公司的系统对用户来说更加私密，原因是其在苹果公司的服务器和用户设备上都使用了复杂的密码系统，而且不会对实际图片进行扫描，只会扫描“哈希”。但对许多在隐私问题上反应敏感的用户来说，他们仍然不愿看到自己使用的软件向通报设备或云服务中的内容，因此可能会对苹果公司此举做出反应 —— 特别是由于苹果公司一直都在发声捍卫设备加密，而且在该公司进行业务运营的，言论保护比美国要少。
世界各地的执法官员也已经向苹果公司施压，要求其削弱对iMessage和iCloud等其他软件服务的加密，以便调查儿童或恐怖主义等行为。对苹果公司来说，周四此举表明该公司希望找到一种方法，在不放弃一些有关用户隐私的工程原则的情况下，解决其中一些问题。
系统运作
在图片存储到苹果公司的iCloud服务之前，该公司会将图片的“哈希”与美国失踪与受虐儿童中心（以下简称“NCMEC”）提供的散列数据库进行比对。苹果公司表示，这个数据库将从该公司发布iOS15更新时开始启用，以iOS代码的形式发布。匹配过程将在用户的iPhone上完成，而不是在云端。
如果苹果公司随后在某个iCloud账号中检测到一定数量的违规文件，那么该系统将会上传一个文件，允许苹果公司并查看该账号上的图片，随后将由人工查看图片以确认是否匹配。苹果公司将只能审查与已知内容相匹配的图片，并将其报告给这些数据库。举例来说，该公司将无法检测洗澡儿童的父母的照片，因为这些图片不会进入NCMEC数据库。
如果负责人工审查的人员得出结论认为系统没有出错，那么苹果公司将会禁用上传违规图片的用户的iCloud账号，并在如有必要时向NCMEC发送报告或通知执法门。苹果公司的一位代表称，如果用户认为自己的账号被错误地标记了，则可向该公司提出上诉。
苹果公司表示，该系统只适用于上传到iCloud服务的图片（用户可以选择关闭这个系统），不适用于未上传到该公司服务器的设备上的照片或其他图片。
隐私保护
一些安全研究人员担心，这项技术最终可能会被用来识别其他类型的图片。苹果公司则表示，该公司的系统只适用于NCMEC或其他儿童安全组织编目的图片，而且该公司构建密码系统的方式可以防止其被用于其他目的。
苹果公司称，该公司不能向数据库里添加额外的“哈希”。该公司称其正在向密码学专家展示这个系统，以证明它可以在不损害用户隐私的情况下检测非法的儿童图片。
在周四发布这项功能的同时，苹果公司还发布了其他一些旨在保护儿童免受性剥削者攻击的功能。其中一项功能是，苹果公司将在拥有家庭账号的儿童iPhone上使用机器学技术来对可能包含裸体的图片进行模糊处理，而父母可以选择一种警报功能，以便在13岁以下的儿童在iMessage中收到扰内容时收到警报。另外，苹果公司还更新了Siri，提供了如何举报儿童内容的信息。
标签：
