AI 换脸技术引发网络安全问题，如何应用和监管成讨论焦点

hua818

大家好，我是鹅师傅。

最近，一款名为“ZAO”的AI换脸应用程序火了。

这款应用可以让用户一键变脸，成为电影、电视剧的主角。也开始让更多人讨论和思考AI换脸技术背后的个人隐私问题。

不过，在Go大师看来，这款App及其应用背后的相关技术“”不仅涉及收集用户个人隐私数据，还可能引发新的网络安全问题，因为此类技术也正在被网络诈骗所利用，网络黑产品。等待别有用心的人利用它。

技术是中立的，但使用它的人有意见。

ZAO 的流行可能是短暂的，但它也引发了关于如何应用和监管此类技术的讨论。

什么是AI换脸技术？

也许你这几天也在朋友圈等地方看到有人用ZAO应用把自己的脸改造成经典影视剧的明星，幸福地过着“山寨明星”的瘾。

由于使用人数太多，该应用程序一度瘫痪。

据说，这款应用火爆后的第二天，就有超过10家VC想要与项目组见面，但ZAO背后却是陌陌，一家不缺钱、做交友平台的上市公司。此外，抄袭、模仿的应用程序也在网上提交。

ZAO走红的同时，各界质疑和批评的声音也随之而来。

首先，ZAO有一份堪称流氓的用户协议：

用户上传、发布内容后，同意授予ZAO及其关联公司和ZAO用户“完全免费、不可撤销、永久、可在全球范围内再许可和再许可的权利”；包括但不限于用户对内容的全部或部分修改、编辑（例如将短视频中的人脸或声音替换为他人的人脸或声音等）以及信息网络传播的权利。修改前后的用户内容以及著作权法规定的所有著作权财产权和邻接权均由著作权人享有。

怎么理解呢？

也就是说，如果你上传自己的脸部，你的肖像就可以被ZAO公司和用户以任何他们想要的方式使用。

非常感谢您的慷慨，鹅大师在这里冷笑了(￣ー￣)。

是因为你无耻，还是不想隐私，才这样上传自己的肖像，并出卖自己的所有重要数据？

当然，如果用户上传他人的脸部，则可能涉嫌侵犯他人的肖像权和隐私权。该App已在用户协议中明确将风险转嫁给用户。

正如网友所说，使用和推广这种APP的人不是傻就是坏。

在用户协议遭到各界批评后，ZAO于8月31日修改了用户协议，对此前存在争议的涉及用户安全和隐私的条款增加了“特别提醒”：

ZAO只会使用ZAO生成的内容来修改和生成新的短视频。除非用户再次同意，ZAO不会以任何其他形式使用上述内容。如果用户删除上传的内容，ZAO也将按照相关法律规定从服务器上删除。另外，如果用户使用ZAO“换脸”，必须确保肖像权持有者授权ZAO处理肖像。

与ZAO这款涉嫌收集用户数据的App类似，前段时间有一款名为“ZAO”的软件。

复仇者联盟，老了之后

它还引发了网络上相当流行的老化挑战（），但美国网友听说这是俄罗斯人开发的应用程序后不敢玩。

不过，鹅大师想说的是，AI换脸其实不是什么新鲜事。

上一次大家知道AI换脸，今年有人把杨幂的脸换成了1994年版《射雕英雄传》视频中最初扮演黄蓉的演员朱茵的脸。

这段视频中的换脸技术几乎以假乱真，因此在网络上广为流传。

在哔哩哔哩视频网站上，有人把一个六岁男孩的脸放到了蔡徐坤的身上。

不过，早在2017年，国外就开始有人发布AI换脸视频。

这项AI换脸技术源自国外网站上一位名叫“”的用户。

该视频合成自

他利用开源人工智能工具和机器学习算法，将盖尔·加朵的脸“移植”到色情电影演员身上。

其中，包括泰勒·斯威夫特、艾玛·沃特森、斯嘉丽·约翰逊等众多女明星的脸被移植到色情电影演员的身上。

当时论坛上聚集了大量吃瓜群众，但也被网站屏蔽了。

之后，“”直接开源了这个AI换脸项目的代码，这个AI换脸技术在全球范围内变得唾手可得。代码发布者的名称也用来命名该技术。

AI换脸背后巨大的网络安全问题

ZAO等类似应用程序会收集用户面部信息，涉嫌收集用户数据。这只是开始。

如果这些应用的API接口和数据库受到黑客攻击，导致数据泄露，麻烦将是巨大的。

你是否也有过和鹅师傅一样的烦恼：

也许我的脸会被替换成色情电影主角的脸？ （鹅老爷子是遵纪守法的公民，从来没有想过出海）

我的人脸数据会不会在刷脸支付、刷脸创业等场景中被冒用？ （有点担心手机支付账户里的钱会消失）

会不会有人模仿我的脸进行网络诈骗？

鹅师傅感觉有点麻木，因为除了刷脸支付之外，还没有相关的负面报道，很多人也已经出现了其他的担忧。

有人伪造了扎克伯格演讲的视频

AI换脸技术是一种视觉识别的人工智能技术。同样，AI变声技术是一种进行语音识别的人工智能技术。如果将这两种技术结合起来，就可以制作出难以辨别真假的假视频。

美国前总统奥巴马落入了陷阱。

2019年4月，美国一家娱乐网站发布了一段看起来很假的视频。

视频中，“美国前总统奥巴马”模仿他的声音和平常的动作，说了一些他以前从未说过的话。当然，这段视频也明确告诉观众，它是利用AI换脸技术制作的，目的是让大众了解这种事情。技术的危险。

创作者利用互联网上的免费技术和工具，花了56个小时收集和组装奥巴马的模型。

此后，多位美国政经界大人物成为AI换脸视频的主角。这些假视频代替了他们发表各种言论，欺骗了数百万人，同时也损害了被模仿者的个人形象和声誉。

模仿你的脸和声音通常没有什么好处。

六耳猕猴模仿孙悟空，打晕了师傅唐僧，还抢走了行李和经文。假李鬼冒充真李逵实施抢劫。

当前，AI换脸、变声等技术不仅引发“报复性色情”和政治风险，也为各类网络诈骗提供了可乘之机。

在一些网络诈骗案件中，诈骗者往往通过语音、电话等方式模仿受害人。

视频通话和视频的可信度明显高于语音和电话通话。

通过人工智能变脸、变声，诈骗者的伪装将变得更加老练，防范难度也将大幅上升。

此类技术也很可能被诈骗者利用，以降低受害者的警惕性，进一步迷惑受害者。

例如，在杀猪骗局中，骗子主要通过文字和语音与受害人聊天。如今，随着这种骗局的曝光，骗子想要落得手越来越难。

但如果一个美丽年轻的女网友，或者一个帅气的男网友，通过视频通话与你聊天，而且她的声音相当温柔友善，那么可能会有更多的人被骗。

鹅师傅也发现，AI换脸、变声已经不再是什么大事了。加州大学伯克利分校团队的 Dance Now 技术已经可以自动生成假舞蹈视频。

图片的左上角是舞蹈动作的来源，而右边的两个是通过技术生成的假视频。

人工智能可以改变面孔和声音，让一个人说出他在视频中从未说过的话； Dance Now 技术可以让一个人做以前从未做过的动作。

想想真是可怕。

AI换脸技术监管在即

制作个人虚假视频会严重威胁个人的声誉和财产安全。

当产生的内容是假新闻时，甚至会引起社会恐慌和不安。

对此类技术的监管已经慢慢开始跟上。

今年6月，美国众议院正式举行听证会，敦促科技公司在2020年美国总统大选前制定政策，目的是“保护用户免受假新闻误导”。

这是此类AI换脸技术的首次听证会。

然而，这种换脸技术出现已经一年半了，期间产生了大量的受害者和假新闻。

但可以肯定的是，针对此类技术和社交平台的限制性政策出台只是时间问题。

然而，为了保护和治理这类技术，除了法律和政策层面的立法和监管外，我们需要做的还有很多。

一方面，我们需要有效识别虚假人工智能信息的技术和方法；另一方面，社交平台应承担监督管理责任，建立虚假信息防控机制。

修饰后-检测修饰区域-建议修复-原图

在技​​术对抗方面，一场打击假冒照片和视频的竞赛已经展开。

早年开始，AI技术团队、Adobe等商业公司，甚至美国国防部都开始研发“图片/视频取证技术”，用于识别和对抗。

可以预见，这种打假与鉴伪的技术对抗不会停止，只会不断动态升级。

另外，高大师要给大家强调的是，在今年4月全国人大常委会审议的《民法典人格权部分（草案）》中，正式增加了一条：

任何组织和个人不得以诽谤、污损或者利用信息技术手段伪造等方式侵犯他人肖像权。

这意味着AI换脸、变声技术应用在我国的使用可能会受到法律控制并有明确的规定。

AI换脸技术不可能一刀切

AI技术给医疗、出行等各行业用户带来希望和惊喜。

凭借开源技术和“技术无罪”的精神，AI技术已经变得触手可及，AI造假的门槛也越来越低。

AI换脸技术不是一棒子、一刀切就能打死的。

例如，《速度与激情7》中的演员保罗·沃克在拍摄前去世。制片人采用了替身+动作捕捉+CGI动画的方式，用替身演员代替了保罗的脸。这种技术让电影得以上映，也为艺术创作提供了更多的可能性、创造力和想象力。

《AI复活张国荣》等致敬作品在粉丝间流传。其他人则使用类似的技术来替换视频中已故亲人的面孔，以纪念他们的祖先。

总的来说，这类技术可能会给鹅师傅和他的朋友们打击非法生产的工作带来新的挑战。

为了防止此类技术被用于邪恶，需要多方共同努力：

公众还应及时了解科技发展动态，增强自身防范诈骗的意识和能力，面对网络内容，避免轻信、信谣、造谣。

回顾过去的问题