程序员化身“侦探”识破 AI 律所骗局!

9b20df51a274620d57a87b528918c016.gif

整理 | 于轩     

出品 | 程序人生(ID:coder_life)

俗话说,“耳听为虚,眼见为实”。但随着AI技术的发展,各种换脸技术早已发展到了以假乱真的程度。

如果不了解相关的AI专业知识,也没有一定的推理能力,那一般人很容易被不法分子利用的AI技术所诈骗。

近日,TechTalks网站创始人、软件工程师Ben Dickson就在自家网站上分享了他遇到AI换脸诈骗律师的故事。

3ff556825522d4d3dc8106c9315d0f22.png

发律师函的是“假人”?

4月13日,Ben Dickson(下文称Ben)收到一封名为“DMCA版权侵权通知”的邮件,发送人Nicole Palmer(下文称Nicole)称自己是Arthur Davidson法律事务所的商标律师。

Nicole称Ben在之前一篇博客中,使用过一张没注明来源的图片,而这张图片的版权属于她的一个客户,所以Ben存在侵权行为。

程序员化身“侦探”识破 AI 律所骗局!_第1张图片

邮件截图

Nicole给Ben7天时间在他的“违规页面”上注明图片来源,并且附上她客户网站主页的链接。否则的话,他们就要采取法律行动了。

一般人遇到这种情况肯定就慌了,但Ben没有,他当下就搜索了这位律师的信息。资料显示,Nicole毕业于哥伦比亚大学,简介称她 "专门从事工业设计的应用和保护",并且"30年来一直在成功地建立自己的事业"。

但经过调查,Ben发现这个人根本不存在,于是他决定从这个“凭空捏造”的人物入手揭开事情真相。

cb451386b7d9877b57d51ca051291f1d.png

疑点重重的假律所

Ben用近一周的时间调查,一步步发现了这个冒充合法机构寻找受害者的骗局。

疑点一:图片来源

首先,Ben在自己网站上所用的每一张照片都会搜索来源,尽量确保自己不会在未经许可的情况下使用任何人的知识产权。

而在这封邮件中,律所附上的是一个指向Imgur的链接。这是一个图片共享网站,任何人都可以上传图片,甚至不用设置个人资料。(所以很有可能是他们从Ben的网站下载了图片,然后上传到Imgur,再声称他们在Ben用之前就上传了。)

经核查,Ben用的这张图片来自Pexels,一个无需申请许可的在线图片库。于是Ben将指向图片的链接和共享许可通过邮件发给了Nicole,让她解释为什么说这张图片属于她的客户。但Ben并没有得到回复。

疑点二:律所知名度

Ben查看Arthur Davidson法律事务所的网站,发现建立网站的人做得很好,连域名arthurdavidson.com都是精心挑选的。这也说明这个网站和公司也许从早期的.com时期就开始,存在了很长时间。

页面显示,Arthur Davidson从2009年成立至今,一共参与过420起案件,胜诉380场,成功率达到了90%。页面展示的18位律师中,不少毕业于东北大学、布朗大学、普林斯顿大学、哈佛大学等知名大学。但和其他专业网站不同的是,没有一位律师在网站上列出他们的LinkedIn资料。

程序员化身“侦探”识破 AI 律所骗局!_第2张图片

律所网站页面

另外,按理说一家拥有众多知名律师,胜诉率如此之高的公司至少会上过几次新闻。但Ben在谷歌上搜索这家公司时,并没有相关报道。

疑点三:停放已久的域名

Ben在互联网名称与数字地址分配机构(ICANN,Internet Corporation for Assigned Names and Numbers)网站上查找该公司域名的记录。结果发现,该公司成立了13年,但在2022年2月才建立自己的域名。

程序员化身“侦探”识破 AI 律所骗局!_第3张图片

域名记录

另外,Ben在Wayback Machine(互联网档案馆,网址:archive.org)上查找该网站的记录时发现,该域名在2005年至2022年期间一直是停放状态。

程序员化身“侦探”识破 AI 律所骗局!_第4张图片

域名状态

当然,这也不排除该律师事务所一直在用其他域名,最近才在其前任所有者手中购买了arthurdavidson.com。

5c847fad6f192c9d02747165d0e0beeb.png

律师资料上全是AI生成的假照片

经过以上的调查,Ben几乎可以肯定这就是一个骗局,而当他仔细查看律师资料的照片时,Ben完全坚定了自己的想法。

Ben首先打开了Nicole的照片,他发现这其实是一张由生成对抗网络(GAN,Generative Adversarial Networks)创建的图片。GAN是一种深度学习模型,可以被训练来创建面孔、艺术或者其他任何东西。

程序员化身“侦探”识破 AI 律所骗局!_第5张图片

红圈中是GAN合成痕迹

自从2014年GAN被发明以来,这项技术已经经历了漫长的发展道路。与早期版本相比,现在的GAN能生成分辨率更高和更自然的图片。

尽管如此,对于那些熟悉这项技术的人来说,还是可以轻松发现这些图片中不自然的合成痕迹。例如耳环、脸侧的阴影、头发和胡须边缘、皱纹、眉毛边缘和眼镜两侧的不规则之处。

程序员化身“侦探”识破 AI 律所骗局!_第6张图片

GAN人脸上明显的合成痕迹

掌握了证明这是一场骗局的明确证据,Ben联系了Nicole口中所代表的客户,让他们澄清与Arthur Davidson的关系。(Ben怀疑这是假律所和其客户网站的营销策略,即让高权威的网站链接到自己的网页,以此来提高自己网站在搜索引擎中的排名)

结果那个网站的支持代理人回复称,他们与这个假律所没有任何关系。之后不久,假律所Arthur Davidson网站就被关闭了,由于没有确凿的证据,所以Ben决定不再深究。

Ben选择将自己的经历分享出来,希望能帮助其他网站所有者避免成为类似骗局的受害者。同时也提醒大家,遇到类似事件时不要恐慌,好好调查并妥善处理,最后肯定会没事的。

180b73e041ee7723526f33bb8fc6b7b5.png

AI换脸技术沦为“作恶”工具

Ben遇到的是AI换脸的图片欺诈,但在作恶方面,骗子们掌握的换脸技术早已应用到了可以实时生效的视频聊天。

2021年1月,南京的李女士报警称被诈骗了3000元。据介绍,李女士的大学同学通过QQ向她借钱,对方打过来一段只有三四秒的视频电话,确实是本人,于是李女士便放心转账。当要转第二笔时,李女士发现异常,再次拨通了对方的电话才知道同学被盗号了,刚刚的视频是被人换了脸。

无独有偶,今年2月,温州的陈先生也被“好友”骗了近五万元。骗子截取陈先生好友在社交平台上发布的视频,利用AI换脸技术在视频聊天时将脸部画面进行了“换脸”。取得陈先生的信任后,骗子一步步“指导”其转账……

AI技术发展日新月异,换脸技术门槛低、普及性广的特点在犯罪领域的潜力也不可估量。所以在平时生活中,一旦遇到涉及自己利益的事,一定要仔细核实,避免上当受骗。

参考链接:

  • https://bdtechtalks.com/2022/04/21/gan-lawyers-arthur-davidson-scam/

  • https://m.gmw.cn/baijia/2022-02/25/1302819762.html

a400bc6e0e173f460c56be8ee4bcf111.gif

程序员化身“侦探”识破 AI 律所骗局!_第7张图片

☞绝了!竟然没有程序员追不到的女朋友?
☞“离职后,前老板让我回去改代码......”
☞程序员小姐姐写出代码版《本草纲目》毽子操,刘畊宏回复:很cool!

你可能感兴趣的