程序人生|AI “开”的诈骗律所被程序员识破了

俗话说,“耳听为虚,眼见为实”。但随着AI技术的发展,各种换脸技术早已发展到了以假乱真的程度。
如果不了解相关的AI专业知识,也没有一定的推理能力,那一般人很容易被不法分子利用的AI技术所诈骗。
近日,TechTalks网站创始人、软件工程师Ben Dickson就在自家网站上分享了他遇到AI换脸诈骗律师的故事。
发律师函的是“假人”? 4月13日,Ben Dickson(下文称Ben)收到一封名为“DMCA版权侵权通知”的邮件,发送人Nicole Palmer(下文称Nicole)称自己是Arthur Davidson法律事务所的商标律师。
Nicole称Ben在之前一篇博客中,使用过一张没注明来源的图片,而这张图片的版权属于她的一个客户,所以Ben存在侵权行为。
程序人生|AI “开”的诈骗律所被程序员识破了
文章图片

邮件截图
Nicole给Ben7天时间在他的“违规页面”上注明图片来源,并且附上她客户网站主页的链接。否则的话,他们就要采取法律行动了。
一般人遇到这种情况肯定就慌了,但Ben没有,他当下就搜索了这位律师的信息。资料显示,Nicole毕业于哥伦比亚大学,简介称她 "专门从事工业设计的应用和保护",并且"30年来一直在成功地建立自己的事业"。
但经过调查,Ben发现这个人根本不存在,于是他决定从这个“凭空捏造”的人物入手揭开事情真相。
疑点重重的假律所 Ben用近一周的时间调查,一步步发现了这个冒充合法机构寻找受害者的骗局。
疑点一:图片来源
首先,Ben在自己网站上所用的每一张照片都会搜索来源,尽量确保自己不会在未经许可的情况下使用任何人的知识产权。
而在这封邮件中,律所附上的是一个指向Imgur的链接。这是一个图片共享网站,任何人都可以上传图片,甚至不用设置个人资料。(所以很有可能是他们从Ben的网站下载了图片,然后上传到Imgur,再声称他们在Ben用之前就上传了。)
经核查,Ben用的这张图片来自Pexels,一个无需申请许可的在线图片库。于是Ben将指向图片的链接和共享许可通过邮件发给了Nicole,让她解释为什么说这张图片属于她的客户。但Ben并没有得到回复。
疑点二:律所知名度
Ben查看Arthur Davidson法律事务所的网站,发现建立网站的人做得很好,连域名arthurdavidson.com都是精心挑选的。这也说明这个网站和公司也许从早期的.com时期就开始,存在了很长时间。
页面显示,Arthur Davidson从2009年成立至今,一共参与过420起案件,胜诉380场,成功率达到了90%。页面展示的18位律师中,不少毕业于东北大学、布朗大学、普林斯顿大学、哈佛大学等知名大学。但和其他专业网站不同的是,没有一位律师在网站上列出他们的LinkedIn资料。
程序人生|AI “开”的诈骗律所被程序员识破了
文章图片

律所网站页面
另外,按理说一家拥有众多知名律师,胜诉率如此之高的公司至少会上过几次新闻。但Ben在谷歌上搜索这家公司时,并没有相关报道。
疑点三:停放已久的域名
Ben在互联网名称与数字地址分配机构(ICANN,Internet Corporation for Assigned Names and Numbers)网站上查找该公司域名的记录。结果发现,该公司成立了13年,但在2022年2月才建立自己的域名。
【程序人生|AI “开”的诈骗律所被程序员识破了】程序人生|AI “开”的诈骗律所被程序员识破了
文章图片

域名记录
另外,Ben在Wayback Machine(互联网档案馆,网址:archive.org)上查找该网站的记录时发现,该域名在2005年至2022年期间一直是停放状态。
程序人生|AI “开”的诈骗律所被程序员识破了
文章图片

域名状态
当然,这也不排除该律师事务所一直在用其他域名,最近才在其前任所有者手中购买了arthurdavidson.com。
律师资料上全是AI生成的假照片 经过以上的调查,Ben几乎可以肯定这就是一个骗局,而当他仔细查看律师资料的照片时,Ben完全坚定了自己的想法。
Ben首先打开了Nicole的照片,他发现这其实是一张由生成对抗网络(GAN,Generative Adversarial Networks)创建的图片。GAN是一种深度学习模型,可以被训练来创建面孔、艺术或者其他任何东西。
程序人生|AI “开”的诈骗律所被程序员识破了
文章图片

红圈中是GAN合成痕迹

自从2014年GAN被发明以来,这项技术已经经历了漫长的发展道路。与早期版本相比,现在的GAN能生成分辨率更高和更自然的图片。
尽管如此,对于那些熟悉这项技术的人来说,还是可以轻松发现这些图片中不自然的合成痕迹。例如耳环、脸侧的阴影、头发和胡须边缘、皱纹、眉毛边缘和眼镜两侧的不规则之处。
程序人生|AI “开”的诈骗律所被程序员识破了
文章图片

GAN人脸上明显的合成痕迹
掌握了证明这是一场骗局的明确证据,Ben联系了Nicole口中所代表的客户,让他们澄清与Arthur Davidson的关系。(Ben怀疑这是假律所和其客户网站的营销策略,即让高权威的网站链接到自己的网页,以此来提高自己网站在搜索引擎中的排名)
结果那个网站的支持代理人回复称,他们与这个假律所没有任何关系。之后不久,假律所Arthur Davidson网站就被关闭了,由于没有确凿的证据,所以Ben决定不再深究。
Ben选择将自己的经历分享出来,希望能帮助其他网站所有者避免成为类似骗局的受害者。同时也提醒大家,遇到类似事件时不要恐慌,好好调查并妥善处理,最后肯定会没事的。
AI换脸技术沦为“作恶”工具 Ben遇到的是AI换脸的图片欺诈,但在作恶方面,骗子们掌握的换脸技术早已应用到了可以实时生效的视频聊天。
2021年1月,南京的李女士报警称被诈骗了3000元。据介绍,李女士的大学同学通过QQ向她借钱,对方打过来一段只有三四秒的视频电话,确实是本人,于是李女士便放心转账。当要转第二笔时,李女士发现异常,再次拨通了对方的电话才知道同学被盗号了,刚刚的视频是被人换了脸。
无独有偶,今年2月,温州的陈先生也被“好友”骗了近五万元。骗子截取陈先生好友在社交平台上发布的视频,利用AI换脸技术在视频聊天时将脸部画面进行了“换脸”。取得陈先生的信任后,骗子一步步“指导”其转账……
AI技术发展日新月异,换脸技术门槛低、普及性广的特点在犯罪领域的潜力也不可估量。所以在平时生活中,一旦遇到涉及自己利益的事,一定要仔细核实,避免上当受骗。
参考链接:

  • https://bdtechtalks.com/2022/04/21/gan-lawyers-arthur-davidson-scam/
  • https://m.gmw.cn/baijia/2022-02/25/1302819762.html

    推荐阅读