Clearview AI 这个新工具可通过照片监视你 100亿张照片泄露!

编译 | 禾木木

出品 | AI科技大本营(ID:rgznai100)

Clearview AI 首席执行官 Hoan Ton-That 表示,该公司已从网络上抓取了 100 亿张照片,并开发了新的方法来帮助警方进行监视。

Clearview AI 是一家专注于人脸识别的公司,号称拥有最全面的人脸识别系统。可以通过在网络上抓取照片并应用面部识别,警察通过该技术可以监视我们的生活。目前,该公司的 CEO 希望利用 AI 让 Clearview 的监控工具更加强大。

AI 也可能使它变得更加危险和容易出错。

最近,Clearview AI 的技术备受争议,它已经从包括 Facebook、Instagram 和 Twitter 在内的各个网站收集了数十亿张照片,并使用人工智能来识别图像中的特定人物。警方和政府使用该公司的面部数据库,通过将照片中的嫌疑人与在线个人资料联系起来,帮助他们识别照片中的嫌疑人。

该公司的联合创始人兼首席执行官 Hoan Ton-That 表示,Clearview 现在已经从网络上收集了超过 100 亿张图片——是之前报道的数量的三倍多(去年也仅有30亿张)。

Ton-That 说,更大的照片池意味着用户(通常是执法人员)在搜索某个人时更有可能找到匹配项。他还声称,更大的数据集可以使公司的工具更加准确。

新的强大工具

Clearview 结合了网络爬虫技术、改进了面部识别的机器学习进步以及对个人隐私的无视,创造了一个令人惊讶的强大工具。

Ton-That 通过在现场给记者拍照,并通过智能手机应用程序展示了这项技术。该应用程序从众多美国和国际网站上制作了数十张图片,每张图片都显示了十多年来拍摄的人物。

虽然这种工具的吸引力是显而易见的,但它被滥用的可能性也很明显。

在智能手机、社交媒体和人工智能时代,Clearview 的行为引发了公众的愤怒和对隐私期望的更大的争论。

反对者表示,该公司正在侵蚀个人隐私。

Facebook 和 Twitter 要求 Clearview 停止抓取他们的网站。

Clearview AI 这个新工具可通过照片监视你 100亿张照片泄露!_第1张图片

这些舆论并没有阻止 Ton-That。他说他相信大多数人接受或支持使用面部识别来解决犯罪的想法。“对此感到担忧的人,他们非常直言不讳,这是一件好事,因为我认为随着时间的推移,我们可以解决他们越来越多的问题,”他说。

Clearview 的一些新技术可能会引发进一步的争论。Ton-That 表示,它正在开发新的方法让警察找到一个人,包括“去模糊”和“去除面具”工具。

  • 第一个拍摄模糊的图像使用机器学习对其进行锐化以设想更清晰的图像是什么样的;

  • 第二个尝试使用机器学习模型来设想人脸被覆盖的部分,该模型使用基于其他图像中发现的统计模式的最佳猜测来填充图像的缺失细节。

这些功能可以使 Clearview 的技术更具吸引力,但也更容易出现问题。目前尚不清楚新技术的工作准确度如何,但专家表示,它们可能会增加一个人被错误识别的风险,并可能加剧系统固有的偏见。

麻省理工学院专门研究机器的教授 Aleksander Madry 说:“如果不对数据集和训练过程进行仔细控制,我预计会出现大量的偏差。” 例如,如果没有进行特别的注意,这种方法可能会使具有某些特征的人更容易被错误识别。

Madry 说,即使这项技术按承诺运作,但揭露人们的道德规范也是有问题的。

新工具的应用

Ton-That 说测试发现新工具提高了 Clearview 结果的准确性。“任何增强的图像都应该被标注,在评估增强图像可能产生的结果时要格外小心,”他说。

调查人员会修改图像来帮助找到匹配项,例如通过改变亮度或裁剪某些细节。去模糊图像或去除面具可能会更容易出错,但 Clearview 的结果仅用于生成警方随后在调查中使用的线索。“我对这项技术的意图始终是让它处于人类控制之下,”Ton-That 说。“当人工智能出错时,它会由一个人检查。”

Clearview 远不是唯一一家销售面部识别技术的公司,执法部门多年来一直使用该技术来搜索面部照片集。NEC 开发了自己的系统来识别戴口罩的人,通过关注面部未被覆盖的部分,使用单独的算法来完成这项任务。

Clearview 的技术通过让官员使用面部识别在网络上搜索,可能会提高面部与身份匹配的能力。根据 BuzzFeed News 获得的一份机密客户名单,该技术已被美国数百个警察部门使用。

Ton-That 表示,该公司拥有 3,100 名执法和政府客户。美国政府记录列出了 11 个使用该技术的联邦机构,包括 FBI、美国移民和海关执法局以及美国海关和边境保护局。

加拿大的多家执法机构,都在使用Clearview AI 的人脸识别技术。

拥有 Clearview 执照的纽约警察局在一份声明中表示,它去年引入了有关使用面部识别的新规则。规则规定:“如果有合法需要,侦探长或情报和反恐副专员可以特别授权将身份不明的嫌疑人的图像与面部照片以外的图像进行比较。”

该公司表示,它目前没有在美国以外或私营行业推销这项技术。“我们专注于美国,因为我们想把它放在这儿,”Ton-That 说。“我们从不希望以任何方式滥用它。”

网络的争议

Ton-That 本身就是一个有争议的人物。

Clearview 热衷于关注该技术如何帮助警察。Ton-That 分享了从该技术中受益的调查示例,包括一起虐待儿童案件和追捕参与国会大厦叛乱的人。“很多时候,警方正在侦破以其他方式永远无法侦破的犯罪,”他说。

即使是这样,也有人质疑牺牲如此多的隐私是否值得。

哈佛大学伯克曼中心主任Jonathan Zittrain说:“这不是一个伟大的世界,尤其是当你的任何照片和政府以及企业联系在一起时。”

Zittrain 表示,像 Facebook 这样的公司应该采取更多措施来保护用户免受像 Clearview 这样的机构的攻击。正如公司可以从图像中删除揭示其拍摄地点和时间的元数据一样,Zittrain 表示,科技公司可以通过使用对抗性机器学习技术以人眼无法察觉的方式修改图像来破坏面部识别算法。

Facebook 发言人 Jason Grosse 表示:“Clearview AI 的行为侵犯了人们的隐私,这就是为什么我们禁止其创始人使用我们的服务并向他们发出法律要求,要求他们停止访问我们服务中的任何数据、照片或视频。”

Zittrain 认为,Clearview 的最大危险在于,它将使用面部识别来常规识别人员的想法正常化。“而且我们知道这部戏如何进入下一幕,”他说。

10月6日,欧洲议会通过投票决议,呼吁全面禁止基于AI生物识别技术的大规模监视,也就是将呼吁全面禁止在公共场合进行大规模面部识别。

今年1月1日正式实施的《民法典》中规定,处理个人信息,应征得该自然人或者其监护人同意。

对于人脸识别,你怎么看?

参考链接:

https://www.wired.com/story/clearview-ai-new-tools-identify-you-photos/ 

你可能感兴趣的